(29 ม.ค. 68) ศูนย์ปราบปรามการแสวงประโยชน์จากเด็กแห่งออสเตรเลีย สังกัดสำนักงานตำรวจสหพันธรัฐออสเตรเลีย ได้เตือนพ่อแม่ผู้ปกครองถึงความเสี่ยงเด็กถูกล่วงละเมิดผ่านสิ่งที่สร้างโดยปัญญาประดิษฐ์ (AI) รวมถึงกรณีนักเรียนนักศึกษาสร้าง “ดีปเฟค” (deepfake) หรือใบหน้า-เสียงปลอม มาคุกคามหรือกลั่นแกล้งเพื่อน

เฮเลน ชไนเดอร์ ผู้อำนวยการศูนย์ฯ ชี้ว่าสิ่งใดที่สื่อถึงการทารุณผู้เยาว์ถือเป็นสิ่งที่ล่วงละเมิดเด็กตามกฎหมาย ไม่ว่าสิ่งนั้นจะ “จริง” หรือไม่ก็ตาม พร้อมเรียกร้องพ่อแม่ผู้ปกครองพูดคุยอย่างเปิดใจกับบุตรหลานถึงอันตรายและภัยคุกคามที่เกิดจากการใช้ปัญญาประดิษฐ์ โดยเฉพาะเมื่อเทคโนโลยีปัญญาประดิษฐ์เข้าถึงได้ง่ายและผสานเข้าสู่แพลตฟอร์มและผลิตภัณฑ์ต่างๆ เพิ่มขึ้น

ทั้งนี้ ศูนย์ฯ ออกมาเตือนเหล่าพ่อแม่ผู้ปกครองให้ระมัดระวัง ยามโพสต์รูปถ่ายของเด็กบนสื่อสังคมออนไลน์ เพื่อต้อนรับวันแรกของปีการศึกษา 2025 ซึ่งตรงกับวันอังคาร (28 ม.ค.) โดยชไนเดอร์เผยว่าสิ่งสำคัญคือการพิจารณาข้อมูลที่ปรากฏในรูปถ่ายเหล่านั้นและใครบ้างที่มีสิทธิเข้าถึงรูปถ่ายเหล่านี้

ชไนเดอร์เสริมว่าศูนย์ฯ พบกรณีรูปถ่ายทั่วไปของเด็กและเยาวชนตกเป็นเป้าหมายของความคิดเห็นหรือการสวมบทบาทสมมุติ (role play) ที่ทำให้เป็นวัตถุทางเพศและไม่เหมาะสมอย่างยิ่ง โดยแม้กรณีดังกล่าวเกิดขึ้นไม่บ่อย แต่ครอบครัวควรปกป้องความปลอดภัยของเด็กในเชิงรุก

ปักกิ่ง, 15 พ.ย. (ซินหัว) -- สำนักบริหารไซเบอร์สเปซแห่งประเทศจีนรายงานความพยายามปราบปรามการใช้ดีปเฟก (deepfake) ที่สร้างโดยปัญญาประดิษฐ์ (AI) เพื่อแอบอ้างเป็นบุคคลสาธารณะในการไลฟ์สตรีมมิงหรือไลฟ์สดจำหน่ายสินค้าของธุรกิจอีคอมเมิร์ซ

เมื่อไม่นานนี้ ทางการจีนได้จัดการกับบัญชีผู้ใช้งานทางออนไลน์จำนวนมากอย่างเข้มงวด เนื่องจากบัญชีผู้ใช้งานเหล่านี้ใช้ปัญญาประดิษฐ์มาแอบอ้างเป็นคนดังเพื่อประชาสัมพันธ์สินค้าผ่านการไลฟ์สตรีมมิงและคลิปวิดีโอสั้น ซึ่งสร้างความเข้าใจผิดแก่ผู้ใช้งานอินเทอร์เน็ต

ขณะเดียวกันสำนักบริหารฯ กระตุ้นเตือนแพลตฟอร์มออนไลน์ต่างๆ ดำเนินการกวาดล้างพฤติกรรมความผิดเหล่านี้ โดยปัจจุบันมีการลบเนื้อหาที่ไม่ปฏิบัติตามข้อกำหนดมากกว่า 8,700 รายการ และจัดการกับบัญชีผู้ใช้งานที่แอบอ้างเป็นผู้อื่นอีกมากกว่า 11,000 บัญชี

ความพยายามปราบปรามมีขึ้นหลังจากเกิดกรณีตัวอย่างอันเป็นที่สนใจของคนหมู่มากหลายกรณี เช่น กรณีของนักแสดงสาว "เวินเจิงหรง" ที่พบการใช้ดีปเฟกพลังปัญญาประดิษฐ์มาแอบอ้างเป็นเธอเพื่อประชาสัมพันธ์สินค้าในการไลฟ์สตรีมมิงต่างๆ หลายครั้ง ซึ่งเวินเคยเข้าไปโต้แย้งผ่านช่องสนทนาในการไลฟ์สตรีมมิงแต่สุดท้ายกลับถูกบล็อก

กรณีของเวินตอกย้ำปัญหาความท้าทายที่เพิ่มขึ้นในภาคธุรกิจอีคอมเมิร์ซของจีนหลังจากผู้คนเข้าถึงเครื่องมือปัญญาประดิษฐ์ต่างๆ ได้มากขึ้น ทำให้พ่อค้าแม่ค้าใจคดฉวยโอกาสใช้ประโยชน์จากการแอบอ้างภาพลักษณ์ของบุคคลสาธารณะมาจำหน่ายสินค้าที่มีคุณภาพต่ำหรือสินค้าปลอม

กรณีตัวอย่างอื่นๆ เช่น การใช้ปัญญาประดิษฐ์มาแอบอ้างเป็น "หลี่จื่อเหมิง" พิธีกรรายการโทรทัศน์ เพื่อประชาสัมพันธ์สินค้าน้ำมันปลาทะเลลึกที่แท้จริงกลับเป็นลูกอมธรรมดา หรือการแอบอ้างเป็น "เฉวียนหงฉาน" และ "ซุนอิ่งซา" นักกีฬาแชมป์โอลิมปิกชื่อดัง เพื่อจำหน่ายไข่อีกด้วย

หลิวหงชุน รองศาสตราจารย์ประจำคณะนิติศาสตร์ของมหาวิทยาลัยอวิ๋นหนาน กล่าวว่าพฤติกรรมเหล่านี้ถือเป็นการละเมิดกฎหมายแพ่งและละเมิดสิทธิของบุคคลสาธารณะ รวมถึงละเมิดสิทธิในการเข้าถึงข้อมูลของผู้บริโภคด้วย

แม้จีนดำเนินมาตรการติดป้ายกำกับเนื้อหาที่สร้างโดยปัญญาประดิษฐ์เมื่อวันที่ 1 ก.ย. แต่ยังคงเผชิญปัญหาความท้าทายอยู่ดี โดยผู้ฝ่าฝืนมักซ่อนลายน้ำไว้ในมุมอับของวิดีโอหรือใช้วิธีการทางเทคนิคลบป้ายกำกับ หรือแยกเนื้อหาที่สร้างขึ้นมาเป็นส่วนเล็กส่วนน้อยและกระจายผ่านหลายบัญชีผู้ใช้งานจนตรวจจับยาก

นอกจากนั้นแพลตฟอร์มออนไลน์ต่างๆ ประสบปัญหาการกลั่นกรองเนื้อหา โดยโต่วอิน (Douyin) หรือติ๊กต็อก (TikTok) ฉบับจีน ได้ลบวิดีโอที่แอบอ้างเป็นเวินเจิงหรงกว่า 10,000 คลิป และลงโทษบัญชีผู้ใช้งาน 37 บัญชี ซึ่งหลี่เลี่ยง รองประธานโต่วอิน ยอมรับว่าการระบุเนื้อหาที่สร้างโดยปัญญาประดิษฐ์เพื่อตรวจจับการละเมิดยังคงเป็นความท้าทายทางเทคนิคในวงกว้าง

สำหรับเหยื่อที่ถูกแอบอ้าง การรวบรวมหลักฐานและพิสูจน์ว่าเนื้อหานั้นสร้างขึ้นโดยปัญญาประดิษฐ์มีความซับซ้อนทางเทคนิคและใช้เวลานาน โดยกลุ่มสื่อมวลชนรายงานว่าทีมงานของเวินเจิงหรงเคยรายงานบัญชีผู้ใช้งานที่แอบอ้างเป็นเวินถึง 50 บัญชีภายในวันเดียว แต่กลับพบว่าบางบัญชีผู้ใช้งานปรากฏขึ้นมาในรูปแบบใหม่อย่างรวดเร็ว

คณะผู้เชี่ยวชาญทางกฎหมายและคนวงในอุตสาหกรรมมองว่าการแก้ไขปัญหานี้ต้องใช้แนวทางหลายแง่มุม ได้แก่ บทลงโทษที่เข้มงวดยิ่งขึ้น เทคโนโลยีตรวจจับที่เก่งขึ้น และความรับผิดชอบของแพลตฟอร์มออนไลน์ต่างๆ ที่ชัดเจนยิ่งขึ้น

ทั้งนี้ สำนักบริหารฯ จะยังคงดำเนินการปราบปรามอย่างเข้มงวด กระตุ้นเตือนแพลตฟอร์มต่างๆ แสดงความรับผิดชอบ รวมถึงกำจัดและเปิดโปงบัญชีผู้ใช้งานเพื่อการตลาดที่เป็นอันตราย เพื่อรักษาสภาพแวดล้อมโลกออนไลน์ที่ดี

ยูนิเซฟ แสดงความกังวลอย่างยิ่งต่อรายงานที่ชี้ให้เห็นถึงการเพิ่มขึ้นอย่างรวดเร็วของสื่อทางเพศที่เกี่ยวข้องกับเด็ก ซึ่งถูกสร้างขึ้นด้วยเทคโนโลยีปัญญาประดิษฐ์ (AI) รวมถึงการนำภาพถ่ายของเด็กไปดัดแปลงหรือบิดเบือนให้มีลักษณะส่อไปในทางเพศ ซึ่งกำลังแพร่กระจายในวงกว้าง

“Deepfake” หมายถึงภาพ วิดีโอ หรือเสียงที่ถูกสร้างหรือปรับแต่งด้วย AI ให้ดูสมจริง ปัจจุบันเทคโนโลยีนี้ถูกนำมาใช้มากขึ้นในการผลิตเนื้อหาที่เป็นการล่วงละเมิดทางเพศต่อเด็ก ไม่ว่าจะเป็นการตัดต่อภาพให้มีลักษณะทางเพศ หรือการใช้เทคนิคที่เรียกว่า “การทำให้เปลือย” ซึ่งเป็นการใช้ AI ลบหรือดัดแปลงเสื้อผ้าในภาพถ่าย เพื่อปลอมแปลงให้เป็นภาพเปลือยหรือส่อไปในทางเพศ

ยูนิเซฟระบุว่า หลักฐานล่าสุดยืนยันว่า ภัยคุกคามนี้กำลังขยายตัวอย่างรวดเร็ว จากการศึกษาของยูนิเซฟร่วมกับ ECPAT และองค์การตำรวจสากล (INTERPOL) ใน 11 ประเทศ พบว่าในปีที่ผ่านมา มีเด็กอย่างน้อย 1.2 ล้านคนที่เปิดเผยว่าภาพของตนถูกดัดแปลงด้วยวิธีการดีปเฟกให้มีลักษณะส่อไปในทางเพศ ในบางประเทศ เด็กมากถึง 1 ใน 25 คนได้รับผลกระทบ ซึ่งหมายความว่า ในห้องเรียนทั่วไป อาจมีเด็กอย่างน้อย 1 คนที่กำลังเผชิญกับการละเมิดในรูปแบบนี้

 “เด็ก ๆ เองก็รับรู้ถึงความเสี่ยงดังกล่าว ในบางประเทศที่เข้าร่วมการศึกษา เด็ก 2 ใน 3 คนแสดงความกังวลว่า AI อาจถูกนำมาใช้สร้างภาพหรือวิดีโอทางเพศปลอม ระดับความกังวลแตกต่างกันในแต่ละประเทศ สะท้อนถึงความจำเป็นเร่งด่วนในการการเสริมสร้างการตระหนักรู้ การป้องกัน และระบบคุ้มครองเด็กให้เข้มแข็งยิ่งขึ้น” ยูนิเซฟรายงาน

 พร้อมกันนี้  ยูนิเซฟขอเน้นย้ำว่า ภาพเด็กที่ถูกนำไปใช้ในลักษณะทางเพศ ไม่ว่าจะถูกสร้างหรือดัดแปลงด้วย AI ล้วนถือเป็น สื่อการล่วงละเมิดทางเพศเด็ก (Child Sexual Abuse Material: CSAM) การละเมิดผ่านดีปเฟกคือการละเมิดจริง และไม่มีสิ่งใดเป็น “ของปลอม” เมื่ออันตรายที่เกิดขึ้นเป็นของจริง

เมื่อภาพหรืออัตลักษณ์ของเด็กถูกนำไปใช้ เด็กคนนั้นย่อมตกเป็นเหยื่อโดยตรง แม้ในกรณีที่ไม่สามารถระบุตัวตนได้ สื่อ CSAM ที่สร้างขึ้นด้วย AI ทำให้การแสวงประโยชน์ทางเพศต่อเด็กถูกมองเป็นเรื่องปกติ อีกทั้งยังกระตุ้นความต้องการเนื้อหาลักษณะนี้ และสร้างอุปสรรคต่อการทำงานของเจ้าหน้าที่ในการระบุตัว คุ้มครอง และช่วยเหลือเด็กที่ได้รับผลกระทบ

“ยูนิเซฟชื่นชมความพยายามของนักพัฒนา AI ที่นำแนวคิดเรื่องความปลอดภัยตั้งแต่ขั้นตอนการออกแบบและมาตรการกำกับดูแลที่เข้มงวดมาใช้ เพื่อลดการนำเทคโนโลยีไปใช้ในทางที่ผิด อย่างไรก็ตาม มาตรฐานด้านความปลอดภัยในภาพรวมยังคงมีความเหลื่อมล้ำ โดยยังมีโมเดล AI จำนวนมากที่ขาดมาตรการคุ้มครองที่รัดกุมเพียงพอ และความเสี่ยงนี้อาจยิ่งเพิ่มขึ้น เมื่อ AI ถูกเชื่อมเข้ากับแพลตฟอร์มโซเชียลมีเดียโดยตรง

 ยูนิเซฟได้เรียกร้องว่า ขอให้ทุกภาคส่วนเร่งดำเนินการดังต่อไปนี้ เพื่อรับมือกับภัยคุกคามที่รุนแรงขึ้นจากสื่อการล่วงละเมิดทางเพศเด็กที่ถูกสร้างขึ้นโดย AI  รัฐบาลทุกประเทศ ควรขยายคำนิยามของสื่อการล่วงละเมิดทางเพศเด็ก (CSAM) ให้ครอบคลุมถึงเนื้อหาที่สร้างขึ้นหรือดัดแปลงด้วย AI และกำหนดให้การสร้าง การจัดหา การครอบครอง และการเผยแพร่เนื้อหาดังกล่าวเป็นความผิดตามกฎหมาย  นักพัฒนา AI ควรนำหลัก “ความปลอดภัยตั้งแต่การออกแบบ” และมาตรการกำกับควบคุมที่เข้มแข็งมาใช้ เพื่อป้องกันการนำ AI ไปใช้ในทางที่ผิด

บริษัทดิจิทัล ควรดำเนินมาตรการเชิงป้องกันตั้งแต่ต้นทาง เพื่อไม่ให้มีการสร้างหรือเผยแพร่สื่อ CSAM ที่สร้างด้วย AI ไม่ใช่เพียงแค่ลบเนื้อหาหลังเกิดการละเมิดแล้ว พร้อมเสริมความเข้มแข็งของระบบการกลั่นกรองเนื้อหา โดยลงทุนในเทคโนโลยีการตรวจจับที่มีประสิทธิภาพ เพื่อให้สามารถระบุและลบเนื้อหาดังกล่าวได้อย่างทันท่วงที ไม่ปล่อยให้ล่าช้าหลายวันหลังจากมีการแจ้งเหตุ

“อันตรายจากการละเมิดด้วยดีปเฟกเป็นเรื่องจริงและเร่งด่วน เด็ก ๆ ไม่อาจรอให้กฎหมายไล่ตามให้ทันได้” ยูนิเซฟระบุ

ยูนิเซฟ ให้ข้อมูลอีกว่า สำหรับในประเทศไทย การล่วงละเมิดและแสวงประโยชน์ทางเพศทางออนไลน์กำลังเป็นภัยคุกคามที่น่ากังวลมากขึ้นเรื่อย ๆ  รายงานเรื่อง หยุดยั้งอันตรายในประเทศไทย (Disrupting Harm in Thailand)  ซึ่งจัดทำโดยยูนิเซฟ ร่วมกับ ECPAT และอินเตอร์โพล พบว่า ในปี 2564  มีเด็กอายุระหว่าง 12-17 ปีราว 400,000 คนในประเทศไทย หรือร้อยละ 9 ตกเป็นผู้เสียหายจากการล่วงละเมิดและแสวงประโยชน์ทางเพศทางออนไลน์ ผ่านวิธีการหลากหลาย เช่น การส่งต่อภาพทางเพศของพวกเขาโดยไม่ได้รับอนุญาต หรือการแบล็คเมลหรือข่มขู่เด็กให้เข้าร่วมกิจกรรมทางเพศ