จีนเข้มงวดการเซ็นเซอร์ AI โดยใช้ ‘ศิลปะการล้างสมอง’

(SeaPRwire) –   จีนได้ขยายนโยบายการเซ็นเซอร์และการเฝ้าระวังอีกครั้ง ในขณะที่พยายามควบคุมเทคโนโลยีที่กำลังขยายตัวอย่างต่อเนื่อง

พรรคคอมมิวนิสต์จีน (CCP) ได้นำมาตรการควบคุมเพิ่มเติมเพื่อให้แน่ใจว่าบริษัทเทคโนโลยีในประเทศของตนปฏิบัติตามกฎอุดมการณ์ของพรรค

บริษัท AI ทั้งหมดจำเป็นต้องเข้าร่วมการตรวจสอบของรัฐบาล ซึ่งจะวิเคราะห์แบบจำลองภาษาขนาดใหญ่ (LLM) ของบริษัท เพื่อให้แน่ใจว่า “แสดงคุณค่าหลักของสังคมนิยม” ตามที่รายงานโดย เมื่อสัปดาห์ที่แล้ว

จีนได้ทำงานมาอย่างยาวนานเพื่อกดขี่ข้อมูลที่เข้าถึงได้ผ่านทางอินเทอร์เน็ตผ่านการใช้ “กำแพงไฟร์มหาราช” ซึ่งถูกนำมาใช้เพื่อบล็อกรายการมากมายที่ถูกมองว่าไม่ดีต่อ CCP เช่น ข้อมูลเกี่ยวกับการสังหารหมู่ที่จัตุรัสเทียนอันเหมินในปี 1989 หรือมีมที่เปรียบเทียบประธานาธิบดีสี จิ้นผิงกับวินนี่ เดอะ พูห์

กำแพงไฟร์นี้กำลังถูกขยายไปสู่ ​​AI ในขณะที่ ในขณะที่ยังคงควบคุมเนื้อหาที่สร้างขึ้น

สำนักงานบริหารไซเบอร์สเปซของจีน (CAC) กำลังเรียกร้องให้บริษัท AI เช่น ByteDance, Moonshot และ 01.AI เข้าร่วมกระบวนการตรวจสอบที่วิเคราะห์ประสิทธิภาพของโปรแกรมในการเซ็นเซอร์ LLM ที่พวกเขากำลังสร้าง

ระบบแชทบอทกำลังได้รับการพัฒนาเพื่อไม่เพียงแต่รวบรวมคำสำคัญที่ละเอียดอ่อนเท่านั้น แต่ยังเพื่อบล็อกข้อมูลเกี่ยวกับคำถามที่เกี่ยวข้องกับหัวข้อที่ถูกแบน ซึ่งมักเกี่ยวข้องกับการสอบถามที่เกี่ยวข้องกับสิทธิมนุษยชน

ระบบ AI ในทางกลับกันจะแสดงคำตอบเช่น “ลองถามคำถามอื่น” หรือ “ฉันยังไม่ได้เรียนรู้วิธีตอบคำถามนี้ ฉันจะศึกษาต่อไปเพื่อให้บริการคุณดีขึ้น”

แต่ในความพยายามที่จะป้องกันไม่ให้แชทบอทบล็อกคำถามมากเกินไป นโยบายของ CAC กำหนดว่า LLM ไม่ควรปฏิเสธมากกว่า 5% ของคำถามทั้งหมด ตามรายงานของไฟแนนเชียลไทมส์

แทนที่จะเป็นเช่นนั้น คำตอบแบบครอบคลุมที่ถือว่าถูกต้องทางการเมืองถูกสร้างขึ้นเพื่อตอบคำถามประเภทเฉพาะ แม้ว่าการควบคุมการตอบสนองของ LLM จะเป็นการต่อสู้ที่ยากลำบากสำหรับนักพัฒนา

การแสวงหาของจีนอย่างต่อเนื่องเพื่อควบคุมเรื่องราวในหมู่ประชากรของตนเองพูดถึงภัยคุกคามที่ยิ่งใหญ่ขึ้น Arthur Herman ผู้เชี่ยวชาญด้าน AI ศาสตราจารย์อาวุโสและผู้อำนวยการ Quantum Alliance Initiative กับ Hudson Institute บอกกับ Digital

“นั่นคืออนาคตที่จีนได้วางแผนไว้สำหรับพลเมืองของตนเอง” Herman กล่าว “นี่คือวิธีที่พวกเขาเห็น… ว่าจะควบคุมโลกของผู้อื่นได้อย่างไร”

Herman ชี้ไปที่ความสัมพันธ์ที่กำลังเติบโตของจีนกับประเทศในเขตใต้ ซึ่งแพลตฟอร์มโซเชียลมีเดียเช่น WeChat ได้รับความนิยม

“จะมีการควบคุมทางสังคม การควบคุมจิตใจ องค์ประกอบที่เข้าสู่โปรแกรมเหล่านั้น… และเพื่อสร้างโลกที่ดูเหมือนจีนต้องการให้ดู” เขากล่าว

Herman ยังเตือนด้วยว่ากลยุทธ์เหล่านี้ ในประเทศอำนาจนิยม แต่ทุกที่ที่มีการเข้าถึงแพลตฟอร์ม รวมถึงสหรัฐอเมริกา

“พวกเขารู้จักศิลปะการล้างสมองผ่าน TikTok” Herman กล่าว “วิศวกรชาวจีนได้พบวิธีสร้างแพลตฟอร์มโซเชียลมีเดียซึ่งติดยาเสพติดสูง และยังมีเป้าหมายสูงมากในการล้างสมองผู้ใช้ให้เห็นโลกในแบบที่แน่นอน และตอบสนองต่อสัญญาณภาพและเสียงในแบบที่แน่นอน”

Herman กล่าวว่าการใช้เทคโนโลยี TikTok ของจีนเป็นเพียง “การลิ้มลอง” ว่าปักกิ่งสามารถใช้แอปพลิเคชัน AI ในการจัดการประชากรนอกพรมแดนได้อย่างไร

“จีนมองเห็น AI เป็นวิธีที่จะเปลี่ยนความคิดของผู้คน” เขากล่าว “ความสามารถของ AI ในการเสริมประสิทธิภาพของการล้างสมองและการควบคุมจิตใจ นั้นทรงพลังมาก… แม้ว่าคุณจะไม่ได้อยู่ภายใต้การเฝ้าระวัง แม้ว่าคุณจะไม่ได้ฟังหรือดูการโฆษณาชวนเชื่อที่ได้รับแรงบันดาลใจจากรัฐบาล ก็มีวิธีการละเอียดอ่อนอื่นๆ ที่จิตใจของคุณถูกเปลี่ยนแปลงและปรับแต่งเพียงแค่ปฏิสัมพันธ์ของคุณกับสิ่งต่างๆ ที่เกิดขึ้นในชีวิตประจำวัน ซึ่งถูกกำหนดมากขึ้นโดยวิธีที่พรรคคอมมิวนิสต์ต้องการให้คุณเห็นโลก”