Anthropic กล่าวว่าไม่มี ‘kill switch’ ใน AI ที่ถูกนำไปใช้โดยกองทัพสหรัฐ

(SeaPRwire) –   บริษัทได้โต้แย้งข้อกล่าวอ้างของเพนตากอนที่ว่ายังสามารถควบคุม Claude AI ที่ติดตั้งในเครือข่ายทางทหารได้ไม่ทางใดก็ทางหนึ่ง

ตามคำให้การใหม่ต่อศาล นักพัฒนา AI อย่าง Anthropic ยืนยันว่าไม่มีช่องลับหรือ “สวิตช์ฆ่า” (kill switch) สำหรับ Claude AI ของตน หลังจากที่ระบบถูกติดตั้งในเครือข่ายทางทหารลับของเพนตากอนแล้ว

กองทัพสหรัฐฯ และบริษัทเทคโนโลยีพบว่าตนเองถูก卷入ในข้อพิพาทนโยบายเมื่อต้นปีนี้ โดยเพนตากอนยืนยันจะใช้ระบบดังกล่าวเพื่อ “วัตถุประสงค์ทางทหารที่ชอบด้วยกฎหมายทั้งหมด” ในขณะที่บริษัทยึดมั่นในมาตรการป้องกัน AI ของตนที่เกี่ยวข้องกับการเฝ้าระวังหมู่มวลและการใช้อาวุธอัตโนมัติเต็มรูปแบบ

ในที่สุด เพนตากอนก็ยุติความร่วมมือกับ Anthropic โดยกำหนดให้บริษัทเทคโนโลยีนี้เป็น “ความเสี่ยงในห่วงโซ่อุปทาน (supply chain risk)” ซึ่งเป็นป้ายกำกับหายากที่ปกติแล้วสงวนไว้สำหรับหน่วยงานที่เชื่อมโยงกับประเทศปรปักษ์ของวอชิงตัน การกำหนดลักษณะนี้ไม่เพียงห้ามบริษัทจากการทำงานกับรัฐบาลสหรัฐฯ โดยตรงเท่านั้น แต่ยังห้ามไม่ให้ผู้รับเหมาอื่นๆ ใช้ผลิตภัณฑ์ของบริษัทด้วย

ในคำให้การใหม่ต่อศาลอุทธรณ์สหพันธรัฐในกรุงวอชิงตัน ดี.ซี. Anthropic ได้โต้แย้งข้ออ้างสำคัญของรัฐบาลสหรัฐฯ ที่ว่าบริษัทยังคงมีระดับการควบคุม Claude AI บางส่วนหลังจากที่ระบบถูกติดตั้งในระบบลับ และโดยประสิทธิผลแล้วให้สิทธิ์ยับยั้งการดำเนินงานแก่ตนเองได้ บริษัทระบุว่าตน “ไม่มีช่องลับหรือสวิตช์ฆ่าจากระยะไกล” และ “บุคลากรของบริษัทไม่สามารถล็อกอินเข้าสู่ระบบของกระทรวงเพื่อปรับเปลี่ยนหรือปิดการทำงานของโมเดลที่กำลังทำงานอยู่ได้”

บริษัทให้เหตุผลว่าระบบ AI ที่จัดหาให้เพนตากอนมาในรูปแบบโมเดล “สถิต (static)” หลังจากติดตั้งแล้ว มัน “ไม่ลดประสิทธิภาพหรือเปลี่ยนแปลงได้ด้วยตัวเอง และ Anthropic ไม่สามารถบังคับการเปลี่ยนแปลงที่ไม่ได้เปิดเผยหรือไม่ได้รับอนุมัติไปยังโมเดลหลังจากที่กระทรวงได้ติดตั้งมันแล้วได้”

Anthropic ถูกกำหนดอย่างเป็นทางการให้เป็น “ความเสี่ยงต่อความมั่นคงแห่งชาติในห่วงโซ่อุปทาน (supply-chain risk to national security)”“พวกบ้าซ้ายจัด (leftwing nut jobs)” บริษัทท้าทายป้ายกำกับนี้ในศาล โดยการต่อสู้ทางกฎหมายจนถึงขณะนี้ให้ผลลัพธ์ที่หลากหลาย

ต้นเดือนนี้ ศาลในดี.ซี. ปฏิเสธคำขอของ Anthropic ที่จะให้หยุดการกำหนดลักษณะความเสี่ยงในห่วงโซ่อุปทานชั่วคราว อย่างไรก็ตาม ในคดีคู่ขนานในแคลิฟอร์เนีย ศาลเข้าข้างบริษัท โดยมีคำสั่งห้ามชั่วคราวการตัดสินใจของฝ่ายบริหาร ด้วยคำตัดสินที่แตกแยกนี้ Anthropic ยังคงถูกห้ามทำงานกับเพนตากอน แต่ยังสามารถดำเนินความร่วมมือกับหน่วยงานอื่นๆ ต่อไปได้ในขณะที่การต่อสู้ทางกฎหมายยังดำเนินอยู่