จีนลุยปราบ deepfake หลังพบ AI แอบอ้างคนดังไลฟ์ขายของระบาดแพลตฟอร์มรับมือยาก–ผู้บริโภคเสี่ยงถูกหลอก ปฏิบัติการลบคลิปกว่า 8,700 รายการ จัดการบัญชีปลอมคนดังกว่า 11,000 บัญชี
ปักกิ่ง, 15 พ.ย. (ซินหัว) -- สำนักบริหารไซเบอร์สเปซแห่งประเทศจีนรายงานความพยายามปราบปรามการใช้ดีปเฟก (deepfake) ที่สร้างโดยปัญญาประดิษฐ์ (AI) เพื่อแอบอ้างเป็นบุคคลสาธารณะในการไลฟ์สตรีมมิงหรือไลฟ์สดจำหน่ายสินค้าของธุรกิจอีคอมเมิร์ซ
เมื่อไม่นานนี้ ทางการจีนได้จัดการกับบัญชีผู้ใช้งานทางออนไลน์จำนวนมากอย่างเข้มงวด เนื่องจากบัญชีผู้ใช้งานเหล่านี้ใช้ปัญญาประดิษฐ์มาแอบอ้างเป็นคนดังเพื่อประชาสัมพันธ์สินค้าผ่านการไลฟ์สตรีมมิงและคลิปวิดีโอสั้น ซึ่งสร้างความเข้าใจผิดแก่ผู้ใช้งานอินเทอร์เน็ต
ขณะเดียวกันสำนักบริหารฯ กระตุ้นเตือนแพลตฟอร์มออนไลน์ต่างๆ ดำเนินการกวาดล้างพฤติกรรมความผิดเหล่านี้ โดยปัจจุบันมีการลบเนื้อหาที่ไม่ปฏิบัติตามข้อกำหนดมากกว่า 8,700 รายการ และจัดการกับบัญชีผู้ใช้งานที่แอบอ้างเป็นผู้อื่นอีกมากกว่า 11,000 บัญชี
ความพยายามปราบปรามมีขึ้นหลังจากเกิดกรณีตัวอย่างอันเป็นที่สนใจของคนหมู่มากหลายกรณี เช่น กรณีของนักแสดงสาว "เวินเจิงหรง" ที่พบการใช้ดีปเฟกพลังปัญญาประดิษฐ์มาแอบอ้างเป็นเธอเพื่อประชาสัมพันธ์สินค้าในการไลฟ์สตรีมมิงต่างๆ หลายครั้ง ซึ่งเวินเคยเข้าไปโต้แย้งผ่านช่องสนทนาในการไลฟ์สตรีมมิงแต่สุดท้ายกลับถูกบล็อก
กรณีของเวินตอกย้ำปัญหาความท้าทายที่เพิ่มขึ้นในภาคธุรกิจอีคอมเมิร์ซของจีนหลังจากผู้คนเข้าถึงเครื่องมือปัญญาประดิษฐ์ต่างๆ ได้มากขึ้น ทำให้พ่อค้าแม่ค้าใจคดฉวยโอกาสใช้ประโยชน์จากการแอบอ้างภาพลักษณ์ของบุคคลสาธารณะมาจำหน่ายสินค้าที่มีคุณภาพต่ำหรือสินค้าปลอม
กรณีตัวอย่างอื่นๆ เช่น การใช้ปัญญาประดิษฐ์มาแอบอ้างเป็น "หลี่จื่อเหมิง" พิธีกรรายการโทรทัศน์ เพื่อประชาสัมพันธ์สินค้าน้ำมันปลาทะเลลึกที่แท้จริงกลับเป็นลูกอมธรรมดา หรือการแอบอ้างเป็น "เฉวียนหงฉาน" และ "ซุนอิ่งซา" นักกีฬาแชมป์โอลิมปิกชื่อดัง เพื่อจำหน่ายไข่อีกด้วย
หลิวหงชุน รองศาสตราจารย์ประจำคณะนิติศาสตร์ของมหาวิทยาลัยอวิ๋นหนาน กล่าวว่าพฤติกรรมเหล่านี้ถือเป็นการละเมิดกฎหมายแพ่งและละเมิดสิทธิของบุคคลสาธารณะ รวมถึงละเมิดสิทธิในการเข้าถึงข้อมูลของผู้บริโภคด้วย
แม้จีนดำเนินมาตรการติดป้ายกำกับเนื้อหาที่สร้างโดยปัญญาประดิษฐ์เมื่อวันที่ 1 ก.ย. แต่ยังคงเผชิญปัญหาความท้าทายอยู่ดี โดยผู้ฝ่าฝืนมักซ่อนลายน้ำไว้ในมุมอับของวิดีโอหรือใช้วิธีการทางเทคนิคลบป้ายกำกับ หรือแยกเนื้อหาที่สร้างขึ้นมาเป็นส่วนเล็กส่วนน้อยและกระจายผ่านหลายบัญชีผู้ใช้งานจนตรวจจับยาก
นอกจากนั้นแพลตฟอร์มออนไลน์ต่างๆ ประสบปัญหาการกลั่นกรองเนื้อหา โดยโต่วอิน (Douyin) หรือติ๊กต็อก (TikTok) ฉบับจีน ได้ลบวิดีโอที่แอบอ้างเป็นเวินเจิงหรงกว่า 10,000 คลิป และลงโทษบัญชีผู้ใช้งาน 37 บัญชี ซึ่งหลี่เลี่ยง รองประธานโต่วอิน ยอมรับว่าการระบุเนื้อหาที่สร้างโดยปัญญาประดิษฐ์เพื่อตรวจจับการละเมิดยังคงเป็นความท้าทายทางเทคนิคในวงกว้าง
สำหรับเหยื่อที่ถูกแอบอ้าง การรวบรวมหลักฐานและพิสูจน์ว่าเนื้อหานั้นสร้างขึ้นโดยปัญญาประดิษฐ์มีความซับซ้อนทางเทคนิคและใช้เวลานาน โดยกลุ่มสื่อมวลชนรายงานว่าทีมงานของเวินเจิงหรงเคยรายงานบัญชีผู้ใช้งานที่แอบอ้างเป็นเวินถึง 50 บัญชีภายในวันเดียว แต่กลับพบว่าบางบัญชีผู้ใช้งานปรากฏขึ้นมาในรูปแบบใหม่อย่างรวดเร็ว
คณะผู้เชี่ยวชาญทางกฎหมายและคนวงในอุตสาหกรรมมองว่าการแก้ไขปัญหานี้ต้องใช้แนวทางหลายแง่มุม ได้แก่ บทลงโทษที่เข้มงวดยิ่งขึ้น เทคโนโลยีตรวจจับที่เก่งขึ้น และความรับผิดชอบของแพลตฟอร์มออนไลน์ต่างๆ ที่ชัดเจนยิ่งขึ้น
ทั้งนี้ สำนักบริหารฯ จะยังคงดำเนินการปราบปรามอย่างเข้มงวด กระตุ้นเตือนแพลตฟอร์มต่างๆ แสดงความรับผิดชอบ รวมถึงกำจัดและเปิดโปงบัญชีผู้ใช้งานเพื่อการตลาดที่เป็นอันตราย เพื่อรักษาสภาพแวดล้อมโลกออนไลน์ที่ดี
