รัฐบาลจีนเตรียมเพิ่มความเข้มงวดในการควบคุมภาพและวิดีโอที่มีเนื้อหาปลอม ซึ่งสร้างขึ้นด้วย Generative AI หลังพบเผยแพร่บนโซเชียลมีเดียเพิ่มมากขึ้น รวมถึงคอนเทนต์ปลอมที่แสดงภาพเหยื่อที่ถูกลักพาตัวหรือได้รับผลกระทบจากแผ่นดินไหว

การแก้ไขกฎหมายว่าด้วยความปลอดภัยทางอินเทอร์เน็ตมีผลบังคับใช้ในเดือนม.ค. เดิมทีกฎหมายนี้มีจุดมุ่งหมายเพื่อปรับปรุงความปลอดภัยของโครงสร้างพื้นฐานด้านโทรคมนาคม แต่มีการเพิ่มเติมมาตรการล่าสุดเพื่อให้ครอบคลุมการบริหารความเสี่ยงและการเฝ้าระวังความปลอดภัยที่เกี่ยวข้องกับ AI ด้วย การแก้ไขดังกล่าวได้รับการอนุมัติจากคณะกรรมาธิการถาวร สภาประชาชนแห่งชาติเมื่อวันที่ 28 ต.ค.

รัฐบาลเผ้าระวังการใช้เนื้อหาปลอมที่ถูกสร้างขึ้นเพื่อเป็นเป้าหมายในการโจมตี เพราะหากมีการส่งต่อข้อมูลที่บิดเบือนให้มีความเสียหายมากกว่าความเป็นจริงหลังเหตุอาชญากรรม อุบัติเหตุ หรือภัยพิบัติ นั่นอาจกระทบต่อภาพลักษณ์ของรัฐบาล

จีนมีการบังคับใช้กฎหมายควบคุมบริการ generative AI มาตั้งแต่เดือนส.ค. 2023 ซึ่งกำหนดให้บริษัทที่เกี่ยวข้องกับ AI ควบคุมการใช้งานเทคโนโลยีดังกล่าวให้สอดคล้องกับสังคม โดยกฎหมายนี้ห้ามไม่ให้มีการสร้างเนื้อหาที่อาจนำไปสู่ความวุ่นวายทางสังคม หรือสั่นคลอนอำนาจรัฐบาล

DeepSeek และ Generative AI อื่น ๆ ในจีนได้รับการฝึกฝนตามกฎหมายนี้ ดังนั้นโมเดลภาษาขนาดใหญ่ของจีนจึงมักจะหลีกเลี่ยงการตอบคำถามทางการเมือง การเผยแพร่ภาพและวิดีโอที่มีเนื้อหาปลอมเมื่อเร็ว ๆ นี้ มีแนวโน้มทำให้รัฐบาลจีนดำเนินการเพิ่มเติมในการควบคุมเทคโนโลยีดังกล่าว

นอกจากนี้ รายงานจากศูนย์ข้อมูลเครือข่ายอินเทอร์เน็ตของจีน (China Internet Network Information Center) ยังระบุว่า ผู้ใช้งาน Generative AI ในจีน มีจำนวน 515 ล้านคน ณ เดือนมิ.ย. ซึ่งเพิ่มขึ้นเท่าตัวในช่วงเวลาเพียงหกเดือน เทคโนโลยีนี้แพร่หลายอย่างรวดเร็วหลังจากการเปิดตัว DeepSeek ซึ่งสร้างความฮือฮาเป็นอย่างมาก 

หนึ่งในกรณีที่สร้างความเข้าใจ คือภาพทารกในกองซากปรักหักพังซึ่งถูกแชร์และกลายเป็นไวรัลบนโซเชียลมีเดีย หลังจากเกิดแผ่นดินไหวขนาด 6.8 ที่ทิเบตเมื่อวันที่ 7 ม.ค. ซึ่งต่อมาปรากฏว่า ภาพนั้นสร้างขึ้นด้วย Generative AI และไม่เกี่ยวข้องกับแผ่นดินไหวเลย ส่วนบุคคลที่โพสต์ภาพดังกล่าวถูกจับกุม ฐานเผยแพร่ข้อมูลเท็จ

ขณะที่หน่วยงานด้านความมั่นคงเองก็เร่งเพิ่มความเข้มงวดในการปราบปราม โดยในช่วงปลายเดือนต.ค. มีการเปิดเผยเนื้อหาปลอมที่ผิดกฎหมาย และมีการส่งสัญญาณว่าจะดำเนินคดีกับผู้ที่กระทำการเผยแพร่ ซึ่งตัวอย่างที่เกิดขึ้น ได้แก่ กรณีที่ชายวัย 28 ปีในมณฑลเจ้อเจียงใช้รูปถ่ายของเด็กผู้หญิงคนหนึ่ง โดยอ้างว่าเป็นลูกสาวของตนเองที่ถูกลักพาตัว ส่วนอีกกรณีหนึ่ง คือหญิงวัย 57 ปีในมณฑลซานซี โพสต์ข้อความและรูปภาพที่อ้างว่าเป็นความเสียหายจากแผ่นดินไหว แต่ไม่ได้เกิดขึ้นตามที่กล่าวอ้าง

วิดีโอสอนวิธีการสร้างภาพปลอมโดยใช้ Generative AI เป็นที่แพร่หลายในจีน ซึ่งรวมถึงซอฟต์แวร์ที่สามารถเปลี่ยนใบหน้าหรือเสียงของบุคคลได้อย่างง่ายดาย ซึ่งพบว่า มีผู้ใช้จำนวนมากโพสต์ภาพที่เรียกความสนใจบนโซเชียลมีเดีย เพื่อหวังเพิ่มยอดขายสินค้าหรือรายได้จากการโฆษณา

หน่วยงานกำกับดูแลอินเทอร์เน็ตและพรรคคอมมิวนิสต์ได้เริ่มออกคำแนะนำแก่รัฐบาลท้องถิ่นและแพลตฟอร์มโซเชียลเน็ตเวิร์กรายใหญ่ โดยได้ดำเนินการกับบริการ AI ที่สร้างภาพโป๊เปลือย การแก้ไขเสียงหรือใบหน้า โดยในช่วงไตรมาส 2 มีการสั่งให้แก้ไขแอป 3,500 รายการ และเนื้อหา 960,000 ชิ้น และเมื่อเดือนก.ย. ได้ออกข้อกำหนดให้ผู้ให้บริการ AI ติดป้ายกำกับภาพและวิดีโอที่สร้างโดยผู้ใช้ เพื่อให้รู้ว่า มีการใช้ AI ในการสร้างเนื้อหาเหล่านั้น

ที่มา Nikkei Asia