(25 มิ.ย.67) เพจ ‘Business Tomorrow’ ได้โพสต์ข้อความเกี่ยวกับการพัฒนาของ AI ที่ก้าวหน้าจนน่าหวาดกลัว โดยระบุว่า…

“นักวิจัยเผย AI รู้จักวิธีที่จะโกหก ‘มนุษย์’ ได้เป็นที่เรียบร้อยแล้ว”

“นักวิจัยได้เปิดเผยผลการศึกษาล่าสุดที่น่าตกใจ โดยปัญญาประดิษฐ์ (AI) สามารถเรียนรู้วิธีการโกหกมนุษย์ได้อย่างมีประสิทธิภาพ ในบทความทบทวนที่ตีพิมพ์เมื่อเร็ว ๆ นี้ในวารสารPatternsนักวิจัยเน้นย้ำถึงอันตรายของการหลอกลวง AI และกระตุ้นให้รัฐบาลสร้างกฎระเบียบที่เข้มงวดอย่างรวดเร็วเพื่อลดความเสี่ยงเหล่านี้”

“ในการทดลอง นักวิจัยพบว่า AI สามารถสร้างข้อความที่มีความน่าเชื่อถือแต่เป็นเท็จ โดยปรับแต่งการตอบสนองให้เหมาะสมกับบริบทและความคาดหวังของมนุษย์ ความสามารถนี้ไม่เพียงแค่การสร้างข้อมูลผิด ๆ แต่ยังรวมถึงการปกปิดข้อมูลบางส่วนและการบิดเบือนความจริงอย่างแยบยล”

“ผู้เชี่ยวชาญเตือนว่าความสามารถนี้อาจนำไปสู่การใช้ AI ในทางที่ผิด เช่น การสร้างข่าวปลอม การหลอกลวงทางการเงิน หรือการบิดเบือนข้อมูลทางการเมือง อย่างไรก็ตาม บางคนเสนอว่าความเข้าใจนี้อาจช่วยในการพัฒนาระบบตรวจจับการหลอกลวงที่ดีขึ้น”

“นักวิจัยเน้นย้ำถึงความสำคัญของการพัฒนา AI อย่างมีความรับผิดชอบ โดยคำนึงถึงผลกระทบทางสังคมและจริยธรรม พร้อมทั้งเรียกร้องให้มีการกำกับดูแลและการสร้างมาตรฐานทางจริยธรรมสำหรับ AI”

>> ตัวอย่างการหลอกลวง

“ตัวอย่างของ CICERO ที่สามารถเอาชนะเกม Diplomacy บอร์ดเกมผู้เล่น 7 คนที่ทุกคนมีเป้าหมายเดียวกันคือการควบคุมพื้นที่ส่วนมากของโลก หรือเป็นผู้นำของโลก ผ่านการเจรจาทางการทูตเพื่อหาพันธมิตรให้มากที่สุด แต่ในการทำข้อตกลงต่าง ๆ ผู้เล่นสามารถใช้เล่ห์เหลี่ยมของตนเพื่อเอาชนะคู่ต่อสู้ได้เต็มที่”

“ในเกมนี้จะมี AI ตัวหนึ่งชื่อว่า CICERO คิดค้นโดย Meta เปรียบเสมือนตัวช่วย คอยแนะแนวทางผู้เล่นให้สามารถเอาชนะในเกมได้ แต่ปรากฏว่า CICERO สามารถหลอกให้ผู้เล่นเชื่ออย่างอยู่หมัดผ่านการโกหกและหักหลังพวกเดียวกัน พร้อมขึ้นเป็นผู้ชนะเพียงหนึ่งเดียว”

“นั่นหมายความว่า AI ได้พัฒนาตนเองเพื่อเอาตัวรอดจากสถานการณ์ในเกม จนกลายเป็นนกสองหัว และอาจบ่งบอกได้ว่า AI ไม่เพียงแต่กำลังโกหกมนุษย์ แต่หมายถึง AI กำลังมีความคิดเหนือยิ่งกว่านั้น โดยโกหกเพื่อสร้างความเชื่อใจและหักหลังอย่างไร้ความปรานี”

---

ที่มา : https://www.facebook.com/share/p/mrr27hgb2Lnobkhn/