คะแนน 6.8 ที่ฆ่าคน: ความล้มเหลวอันตรายของอัลกอริทึมในโรงพยาบาล

(SeaPRwire) –   By: Nathaniel Cross

ระบบ Core-MG ไม่ใช่แค่เครื่องมือจัดการทรัพยากร แต่มันกลายเป็นตัวตัดสินชีวิต อัลกอริทึมล้มเหลวในการจับสัญญาณฉุกเฉิดของ Rebeca Cardoso Tenente Molina มันกำหนดคะแนนความรุนแรงไว้ที่ 6.8 แม้สภาพร่างกายของเธอจะเลวร้ายลง นี่คือจุดบอดที่อันตรายของการออกแบบโมเดลที่ขาดความยืดหยุ่น ระบบปฏิเสธที่จะอัปเกรดความเร่งด่วนแม้ผลตรวจจะบอกว่าวิกฤต มันล็อกค่าไว้และทำให้แพทย์สูญเสียอำนาจตัดสินใจที่จะช่วยชีวิต

ทางการ Minas Gerais อ้างว่าระบบนี้จะทำให้การจัดสรรเตียงโปร่งใสและรวดเร็วขึ้น แต่ความจริงคือมันสร้างความล่าช้าถึงห้าวัน ครอบครัวต้องฟ้องร้องศาลเพื่อขอเตียง แต่อัลกอริทึมก็ยังไม่ยอมแพ้ มันเชื่อตัวเลขมากกว่าการวินิจฉัยของแพทย์ คำกล่าวที่ว่าการควบคุมยังอยู่ใต้การดูแลของแพทย์คือการโกหกตัวเอง เมื่อโค้ดสั่งให้ผู้ป่วยรอ แพทย์ก็ต้องยอมจำนนตามโปรโตคอล

โครงสร้างข้อมูลของระบบนี้ลดทอนมนุษย์เป็นเพียงตัวเลข CPF และคะแนนความรุนแรง ผู้ป่วยที่ได้ 8 หรือ 6.9 จะกระโดดหน้า Molina ทันที แม้ว่าเธอจะต้องการ ICU เร่งด่วน นี่คือปัญหาของการจัดลำดับความสำคัญแบบคงที่ ที่ไม่สามารถจัดการกับการเปลี่ยนแปลงของสภาพคลินิกแบบเรียลไทม์ได้ การบังคับใช้โปรโตคอลนี้ทำให้เกิดภาวะแทรกซ้อนและเสียชีวิตในที่สุด

การนำ AI เข้ามาในการแพทย์โดยไม่มีช่องทาง Override ที่ชัดเจนคือการเล่นการพนันกับชีวิตคน เราจะเห็นคดีคล้ายกับในสหรัฐฯ ที่บริษัทประกันภัยใช้อัลกอริทึมปฏิเสธสิทธิ์มากขึ้น ถ้านักพัฒนาไม่หยุดเขียนโค้ดที่หลงใหลในประสิทธิภาพ และเริ่มใส่ใจเรื่องความปลอดภัยของระบบ อนาคตของการดูแลสุขภาพจะกลายเป็นหุ่นเชิงที่ไร้ความปราณี

Author bio: Nathaniel Cross, อดีตนักวิจัย AI ระดับหัวหน้าและผู้บุกเบิกโปรโตคอลแบบกระจายอำนาจ