ความปลอดภัยของ ปัญญาประดิษฐ์กำเนิด มันกลับมาอยู่ในจุดสนใจอีกครั้งหลังจากผลงานวิชาการใหม่ที่นำเสนอกลอุบายที่ทั้งสะดุดตาและน่ากังวลใจ นั่นคือ เพียงพอที่จะปรับปรุงข้อความบางส่วนใหม่ในรูปแบบบทกวีเพื่อให้แบบจำลองภาษาที่ก้าวหน้าที่สุดเริ่มตอบสนองในจุดที่ควรปฏิเสธ
แนวทางนี้เรียกว่า “บทกวีแห่งการโต้แย้ง” ทีมวิจัยแสดงให้เห็นว่าเพียงแค่เปลี่ยนรูปแบบการเขียนโดยไม่เปลี่ยนแปลงเจตนาที่เป็นอันตรายที่แฝงอยู่ก็เพียงพอที่จะหลีกเลี่ยงตัวกรองที่บริษัทต่างๆ เช่น OpenAI, Google, Meta, Microsoft หรือ DeepSeek ของจีนอ้างว่าได้นำมาใช้เพื่อควบคุมการใช้งานแชทบอทที่เป็นอันตราย
“บทกวีแห่งการโต้แย้ง” คืออะไร และเหตุใดจึงน่ากังวล?
การศึกษานี้ใช้ชื่อเรื่องแบบกราฟิกมาก “บทกวีเชิงโต้แย้งเป็นกลไกสากลในการหลีกหนีจากการเปลี่ยนแปลงเพียงครั้งเดียวในแบบจำลองภาษาศาสตร์ขนาดใหญ่”Icaro Labs ร่วมกับ Sapienza University of Rome และ Sant'Anna School of Advanced Studies ได้ดำเนินการดังกล่าว และเผยแพร่ก่อนเผยแพร่ในคลังข้อมูล arXiv โดยรอการตรวจสอบจากผู้เชี่ยวชาญท่านอื่นๆ
ผู้เขียนมุ่งเน้นไปที่แนวคิดที่เรียบง่ายแต่มีประสิทธิภาพ: การใช้ บทกวีสั้น บทกลอนเชิงเปรียบเทียบ หรือโครงสร้างเชิงโคลงสั้น เพื่อกำหนดคำขอที่ในรูปแบบข้อความตรง โมเดล AI จะปฏิเสธทันทีเนื่องจากขัดต่อกฎการใช้งานภายใน
ตามที่นักวิจัยกล่าวไว้ “บทกวีเชิงโต้แย้ง” นี้ทำหน้าที่เป็น กลไกการเจลเบรก การหมุนเพียงครั้งเดียว นั่นคือ วิธีการบังคับให้เกิดพฤติกรรมที่ไม่พึงประสงค์ในโมเดลด้วยข้อความเดียว โดยไม่ต้องมีการสนทนาที่ยาวนานหรือใช้กลวิธีที่ซับซ้อนเป็นพิเศษ
ในคำพูดของเขาเอง การทดสอบ "แสดงให้เห็นว่า การเปลี่ยนแปลงทางรูปแบบเพียงอย่างเดียว “มันสามารถหลีกเลี่ยงกลไกการรักษาความปลอดภัยร่วมสมัยได้” ซึ่งชี้ให้เห็นถึงข้อจำกัดที่สำคัญในแนวทางการจัดแนวและการประเมินความเสี่ยงที่ใช้โดยบริษัทเทคโนโลยีขนาดใหญ่ในปัจจุบัน
ทีมงานตัดสินใจที่จะไม่เปิดเผยข้อความที่แน่นอนของบทกวีที่ใช้ในระหว่างการทดลอง ซึ่งเป็นทางเลือกที่ได้รับแรงบันดาลใจจาก ผลกระทบด้านความปลอดภัยPiercosma Bisconti หนึ่งในนักวิจัย กล่าวกับสื่อนานาชาติว่า การจำลองเทคนิคดังกล่าวจะไม่ซับซ้อนมากนัก หากมีการให้ตัวอย่างโดยละเอียด
ผลการศึกษา: อัตราการหลอกลวงที่สูงอย่างน่าตกใจ
เพื่อทดสอบแนวคิดนี้ นักวิจัยได้ตรวจสอบ โมเดล AI เชิงสร้างสรรค์ 25 แบบที่แตกต่างกันรวมถึงระบบที่นิยมที่สุดในปัจจุบัน เช่น ChatGPT, Gemini หรือ Claude เช่นเดียวกับโมเดลจาก Meta และผู้ให้บริการในจีน เช่น DeepSeek
ในทางปฏิบัติ การร้องขอจะมีวัตถุประสงค์ที่ชัดเจน: เพื่อให้ได้มา คำแนะนำสำหรับการเปิดตัวการโจมตีทางไซเบอร์การดึงข้อมูลที่ละเอียดอ่อน การแคร็กรหัสผ่าน การออกแบบมัลแวร์ หรือแม้กระทั่งการรวบรวมข้อมูลที่เกี่ยวข้องกับการสร้างอาวุธเคมีและอาวุธนิวเคลียร์
เมื่อคำขอเดียวกันนั้นถูกแสดงออกมา บทกวีหรือบทประพันธ์เชิงกวีอัตราการตอบสนองที่ไม่แน่นอนพุ่งสูงขึ้น การศึกษาพบว่าโดยเฉลี่ยแล้ว การเขียนคำกระตุ้นด้วยลีลาที่ไพเราะทำให้ระบบถูกหลอกให้เชื่อว่า... 62% ของเวลาเป็นเปอร์เซ็นต์ที่สูงกว่าการใช้สูตรที่เป็นกลางและตรงจุด
ในสถานการณ์เฉพาะบางอย่าง ตัวเลขจะสูงกว่านี้ด้วยซ้ำ นักวิจัยกล่าวว่าเกือบ 90% ของการปลุกเร้าบทกวี ได้รับการออกแบบมาเพื่อการทดลอง พวกเขาสามารถกระตุ้นพฤติกรรมที่ตัวกรองควรจะบล็อกได้
ในกรณีเฉพาะข้อมูลที่เกี่ยวข้องกับ อาวุธนิวเคลียร์อัตราความสำเร็จอยู่ระหว่าง 40% ถึง 55% หมายความว่าความพยายามเกือบครึ่งหนึ่งที่จัดทำในรูปแบบบทกวีจบลงด้วยการสร้างเนื้อหาที่อยู่บนขอบหรือข้ามเส้นสีแดงที่กำหนดไว้โดยนโยบายการใช้งานโดยตรง
บทกวีลอดผ่านตัวกรองของ AI ได้อย่างไร
ปัจจัยสำคัญประการหนึ่งที่ผู้เขียนการศึกษาใช้เพื่ออธิบายว่าเหตุใดกลวิธีนี้จึงได้ผลนั้นอยู่ที่ วิธีการทำงานของโมเดลภาษาAI เหล่านี้ไม่ได้ "ใช้เหตุผล" เหมือนคน แต่จะทำนายคำถัดไปที่น่าจะเป็นไปได้มากที่สุดโดยอ้างอิงจากลำดับก่อนหน้าและสิ่งที่ได้เรียนรู้ระหว่างการฝึกอบรม
ในข้อความร้อยแก้วที่ค่อนข้างธรรมดา โครงสร้างค่อนข้างง่ายต่อการจำลอง กล่าวคือ มีรูปแบบไวยากรณ์ สำนวนที่ใช้บ่อย และบริบทที่เกิดขึ้นซ้ำๆ อย่างชัดเจน อย่างไรก็ตาม เมื่อนำเสนอ โครงสร้างบทกวี อุปมาอุปไมย และการใช้สำนวนที่แปลกโมเดลดังกล่าวกำลังเคลื่อนตัวไปบนพื้นที่ลื่นไถลมากขึ้นอย่างเห็นได้ชัด
นักวิจัยชี้ให้เห็นว่า เนื่องจากบทกวีเป็นรูปแบบที่ความหมายอาจคลุมเครือมากขึ้นและภาษาก็กลายเป็น คลุมเครือมากขึ้นและคาดเดาได้ยากขึ้นกลไกในการตรวจจับเนื้อหาอันตรายสูญเสียความแม่นยำ ส่งผลให้ตัวกรองความปลอดภัยไม่สามารถระบุได้อย่างชัดเจนว่าคำขอที่เป็นอันตรายซ่อนอยู่หลังบทกวี
การศึกษานี้เน้นย้ำว่าเมื่อข้อความที่เป็นอันตรายถูกแสดงออกมาในรูปแบบบทกวีแทนที่จะเป็นร้อยแก้ว อัตราความสำเร็จในการโจมตี จำนวนดังกล่าวเพิ่มขึ้นอย่างมีนัยสำคัญ สิ่งนี้เน้นย้ำถึงช่องว่างสำคัญในแนวปฏิบัติการประเมินในปัจจุบัน และในโปรโตคอลที่ใช้เพื่อตรวจสอบการปฏิบัติตามแนวทางการใช้งาน
องค์ประกอบที่น่าสังเกตอีกประการหนึ่งคือช่องโหว่เหล่านี้ปรากฏใน ประกอบด้วยโมเดลจากหลายตระกูลและหลายผู้ผลิตแม้ว่าบริษัทแต่ละแห่งจะปฏิบัติตามกลยุทธ์ของตนเองในการฝึกอบรมและปรับระบบให้สอดคล้องกัน แต่ผู้เขียนกลับพูดถึง "ช่องโหว่เชิงระบบ" มากกว่าความล้มเหลวแบบแยกส่วน
ผลกระทบต่อความปลอดภัย: จากการโจมตีทางไซเบอร์ไปจนถึงอาวุธ
นอกเหนือจากกลอุบายทางภาษาแล้ว สิ่งที่น่ากังวลจริงๆ ก็คือประเภทของ ข้อมูลที่ AI สามารถสร้างได้ หากสามารถหลอกพวกเขาได้โดยใช้วิธีการเหล่านี้ การศึกษานี้ให้รายละเอียดกรณีศึกษาที่แชทบอทใช้บทกวีที่แต่งขึ้นอย่างพิถีพิถันเพื่อเสนอแนวทางในการจัดการการโจมตีทางไซเบอร์หรือการบุกรุกระบบ
ในบรรดาการใช้งานที่มีปัญหาที่พบเห็น ได้แก่ ข้อบ่งชี้เกี่ยวกับ การใช้ประโยชน์จากช่องโหว่ การดึงข้อมูล หรือการถอดรหัสผ่านงานเหล่านี้เป็นส่วนหนึ่งของคลังอาวุธทั่วไปของอาชญากรรมทางไซเบอร์และภัยคุกคามขั้นสูงที่สร้างความกังวลให้กับรัฐบาล บริษัท และองค์กรต่างๆ ทั่วโลก
มีการบันทึกคำตอบที่ช่วยสร้างหรือปรับปรุงด้วย โปรแกรมที่เป็นอันตรายนี่เป็นเรื่องที่น่ากังวลอย่างยิ่ง เนื่องจากผู้ใช้จำนวนมากที่มีความรู้ด้านเทคนิคจำกัดอาจพึ่งพาเครื่องมือเหล่านี้เพื่อพัฒนาการโจมตีได้ง่ายขึ้น
พื้นที่ที่มีความละเอียดอ่อนที่สุดและมักให้ความสำคัญกับกฎระเบียบในยุโรปและในระดับนานาชาติคือ การแพร่กระจายของอาวุธเคมีและอาวุธนิวเคลียร์แม้จะไม่ได้ให้ "คู่มือฉบับสมบูรณ์" แต่ความสามารถของระบบ AI ที่จะให้ข้อมูลที่มีประโยชน์ในด้านนี้ได้สร้างความสงสัยให้กับผู้เชี่ยวชาญด้านความปลอดภัยเป็นอย่างมาก
ผู้เขียนเน้นย้ำว่าเป้าหมายของพวกเขาไม่ใช่การสร้างละคร แต่เพื่อแสดงให้เห็นว่า ตัวกรองปัจจุบันไม่เพียงพอ เมื่อต้องเผชิญกับเทคนิคการจัดการที่ค่อนข้างง่าย เช่น การเรียบเรียงคำสั่งอันตรายในรูปแบบบทกวี ซึ่งเป็นสิ่งที่ทั้งอาชญากรทางไซเบอร์และเจ้าหน้าที่รัฐสามารถใช้ประโยชน์ได้
ข้อจำกัดของระบบปัจจุบันและการตอบสนองของอุตสาหกรรม
บริษัทชั้นนำที่พัฒนาโมเดล AI เชิงสร้างสรรค์ยืนกรานมานานแล้วว่าจะต้องบูรณาการ กลไกการรักษาความปลอดภัยหลายชั้นตัวอย่างเช่น OpenAI มักจะเน้นถึงการใช้ร่วมกันของอัลกอริธึมการควบคุมดูแลและทีมงานที่ทุ่มเทให้กับการตรวจสอบและกรองเนื้อหาที่ปลุกปั่นความเกลียดชัง เนื้อหาที่ชัดเจน หรือละเมิดนโยบาย
อย่างไรก็ตาม ผลลัพธ์ของงานนี้ชี้ให้เห็นว่าแม้จะมีการป้องกันเหล่านี้ แต่แชทบอทยังคงมีความเสี่ยงต่อ รูปแบบการสร้างสรรค์สูตร ของคำขอต่างๆ นักวิจัยระบุว่า บทกวีเชิงโต้แย้งนั้นลดทอนพฤติกรรมการปฏิเสธอย่างเห็นได้ชัด ซึ่งแบบจำลองใดๆ ที่สอดคล้องกับบรรทัดฐานการใช้งานควรแสดงออกมา
ในการทดสอบ เครื่องมือจากบริษัทต่างๆ เช่น OpenAI และ Anthropic แสดงให้เห็นว่าเมื่อเปรียบเทียบกันแล้ว โอกาสเอาชนะอุปสรรคของตนเองมีน้อยลงอย่างไรก็ตาม พวกเขาก็ไม่พ้นจากปัญหานี้เช่นกัน แนวโน้มทั่วไปก็พบเช่นเดียวกับบนแพลตฟอร์มอื่นๆ เพียงแต่มีอัตราความสำเร็จต่ำกว่าเล็กน้อย
เมื่อสื่อต่างประเทศถามถึงผลการค้นพบดังกล่าว บริษัทต่างๆ เช่น OpenAI, Google, DeepSeek หรือ Meta พวกเขาไม่ได้ให้คำตอบในทันที คาดว่าเมื่อการอภิปรายได้รับความสนใจจากสาธารณชน บริษัทต่างๆ จะต้องให้รายละเอียดเกี่ยวกับมาตรการรับมือที่พวกเขาตั้งใจจะนำมาใช้
จากมุมมองของกฎระเบียบ การวิจัยประเภทนี้สอดคล้องกับข้อกังวลที่สะท้อนอยู่ใน กฎระเบียบ AI ของสหภาพยุโรปสิ่งนี้เน้นย้ำถึงการบริหารความเสี่ยง ความโปร่งใส และความรับผิดชอบของผู้ให้บริการระบบขั้นสูง การค้นพบเวกเตอร์การโจมตีใหม่ๆ เช่น บทกวีเชิงโต้แย้ง ตอกย้ำข้อโต้แย้งเกี่ยวกับความจำเป็นของกระบวนการประเมินที่ต่อเนื่องและเข้มงวดยิ่งขึ้น
ภัยคุกคามอื่นๆ ที่กำลังจะเกิดขึ้น: การวางยาพิษและการจัดการข้อมูล
บทกวีเชิงโต้แย้งไม่ใช่หนทางเดียวที่ชุมชนความมั่นคงปลอดภัยไซเบอร์กังวลเกี่ยวกับ AI เชิงสร้างสรรค์ งานวิจัยล่าสุดส่วนใหญ่มุ่งเน้นไปที่ ความเสี่ยงที่เกี่ยวข้องกับการฝึกอบรมแบบจำลองซึ่งฐานข้อมูลขนาดใหญ่ที่ใช้ในการสอนเครื่องมือเหล่านี้ในการพูด การเขียน และการใช้เหตุผลได้เข้ามามีบทบาท
การศึกษาอิสระแสดงให้เห็นว่าเป็นไปได้ จัดการโมเดลภาษาขนาดใหญ่ การปนเปื้อนของข้อมูลการฝึกอบรมเพียงเล็กน้อย: เอกสารเสียหายประมาณ 250 ฉบับก็เพียงพอที่จะทำให้เกิดอคติ ช่องโหว่ หรือพฤติกรรมที่ไม่คาดคิดได้ แม้แต่ในระบบที่ทันสมัยที่สุดก็ตาม
สิ่งที่น่าตกใจคือเกณฑ์นี้ดูเหมือนจะไม่เพิ่มขึ้นอย่างมีนัยสำคัญตามขนาดของโมเดล ซึ่งทำลายสัญชาตญาณที่ว่า “ยิ่งใหญ่ขึ้นโดยอัตโนมัติก็หมายถึงแข็งแกร่งขึ้น”ในทางปฏิบัติ ทั้งโซลูชันน้ำหนักเบาและโมเดลขนาดใหญ่ อาจมีความเสี่ยงต่อการวางยาพิษข้อมูลประเภทนี้ได้
หากการโจมตีประเภทนี้ไม่ได้รับการสังเกต อาจนำไปสู่ การโจมตีทางไซเบอร์ที่ยากต่อการติดตามเนื่องจากตัวโมเดลเองจะทำงานในลักษณะที่ดูเหมือนปกติจนกว่าจะตรงตามเงื่อนไขที่ซ่อนอยู่บางประการในข้อมูลที่ทำให้โมเดลเสียหาย
เมื่อใช้ร่วมกับเทคนิคต่างๆ เช่น บทกวีเชิงโต้แย้ง การจัดการข้อมูลการฝึกอบรมจะเปิดสถานการณ์ที่ ผู้ใช้หลายล้านคนอาจใช้เครื่องมือที่มีข้อบกพร่องแฝงอยู่โดยที่ไม่รู้ตัว ซึ่งถือเป็นความท้าทายอย่างยิ่งสำหรับนโยบายการรักษาความปลอดภัยและการกำกับดูแลด้าน AI
ผลการวิจัยทั้งหมดนี้ชี้ให้เห็นว่าความปลอดภัยของปัญญาประดิษฐ์เชิงสร้างสรรค์ไม่ใช่ปัญหาที่ได้รับการแก้ไขแล้ว แต่เป็น สาขาที่พัฒนาอย่างต่อเนื่อง ซึ่งรูปแบบการโจมตีใหม่ๆ เกิดขึ้นเนื่องจากเทคโนโลยีถูกผนวกเข้าเป็นส่วนหนึ่งของชีวิตประจำวันมากขึ้น ไม่ว่าจะเป็นงานในสำนักงาน การบริหารรัฐกิจ หรือการศึกษา
ในบริบทนี้ “บทกวีเพื่อหลอกลวง AI” ได้กลายเป็นตัวอย่างที่ชัดเจนมากว่าการเปลี่ยนแปลงรูปแบบเพียงเล็กน้อยสามารถเปิดเผยระบบที่บนกระดาษมีมาตรการป้องกันที่เข้มงวดได้อย่างไร งานวิจัยโดย Icaro Labs และมหาวิทยาลัยในอิตาลีตอกย้ำแนวคิดที่ว่ามาตรการดังกล่าวเป็นสิ่งจำเป็น การประเมินที่สร้างสรรค์มากขึ้นการทดสอบความเครียดอย่างต่อเนื่องและการทำงานร่วมกันอย่างใกล้ชิดระหว่างนักพัฒนา ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ และหน่วยงานกำกับดูแล เพื่อให้แน่ใจว่าโมเดลภาษาที่เราใช้ทุกวันนั้นสามารถทนต่อการโจมตีทางเทคนิคและกลวิธีทางภาษาที่ชาญฉลาดที่สุดได้อย่างแท้จริง