เมื่อ AI วิวัฒนาการแรงกดดันจะควบคุม ‘หุ่นยนต์นักฆ่า’ – ปัญหาระดับโลก

ทุกวันเราโดยสมัครใจให้ข้อมูลเกี่ยวกับตัวเองกับเครื่องจักร สิ่งนี้จะเกิดขึ้นเมื่อเรายอมรับคุกกี้ออนไลน์หรือใช้เครื่องมือค้นหา เราแทบจะไม่คิดเกี่ยวกับวิธีการขายและใช้ข้อมูลของเราก่อนที่จะคลิก“ เห็นด้วย” เพื่อไปยังหน้าเว็บที่เราต้องการทราบว่ามันจะถูกใช้เพื่อกำหนดเป้าหมายเราในฐานะผู้บริโภคและโน้มน้าวให้เราซื้อสิ่งที่เราไม่รู้ว่าเราต้องการ

แต่ถ้าเครื่องจักรใช้ข้อมูลเพื่อตัดสินใจว่าใครจะกำหนดเป้าหมายเป็นศัตรูที่ต้องถูกฆ่า? สหประชาชาติและกลุ่มองค์กรพัฒนาเอกชนกังวลว่าสถานการณ์นี้ใกล้เคียงกับความเป็นจริง พวกเขากำลังเรียกร้องให้มีกฎระเบียบระหว่างประเทศของอาวุธอิสระที่ร้ายแรง (กฎหมาย) เพื่อหลีกเลี่ยงอนาคตอันใกล้ที่เครื่องจักรกำหนดตัวเลือกชีวิตและความตาย

สงครามเสียงพึมพำขนาดใหญ่ที่คลี่ในยูเครน

เป็นเวลาหลายเดือนภูมิภาค Kherson ของยูเครนได้เข้ามา การโจมตีอย่างยั่งยืน จากโดรนอาวุธที่ดำเนินการโดยกองทัพรัสเซียโดยเฉพาะอย่างยิ่งเป้าหมายที่ไม่ใช่นักสู้ พลเรือนกว่า 150 คนถูกสังหารและได้รับบาดเจ็บหลายร้อยคนตามแหล่งข้อมูลอย่างเป็นทางการ ไม่ได้รับการแต่งตั้งอิสระ การสอบสวนสิทธิมนุษยชน ได้ข้อสรุปว่าการโจมตีเหล่านี้ถือเป็นอาชญากรรมต่อมนุษยชาติ

กองทัพยูเครนยังพึ่งพาโดรนอย่างมากและมีรายงานว่ามีการพัฒนา“ กำแพงเสียงพึมพำ” – แนวป้องกันของยานพาหนะทางอากาศที่ไม่มีคนขับ (UAVs) – เพื่อปกป้องส่วนที่อ่อนแอของเขตแดนของประเทศ

เมื่อการอนุรักษ์ของประเทศที่ร่ำรวยที่สุดที่สามารถซื้อ UAV ที่มีเทคโนโลยีสูงและมีราคาแพงที่สุดยูเครนได้พิสูจน์แล้วว่าด้วยความเฉลียวฉลาดเล็กน้อยโดรนต้นทุนต่ำสามารถปรับเปลี่ยนได้ เมื่อความขัดแย้งทั่วโลกสะท้อนการเปลี่ยนแปลงนี้ธรรมชาติของการต่อสู้ที่ทันสมัยกำลังถูกเขียนใหม่

การคืบคลาน

แต่การทำลายล้างในรูปแบบที่ทันสมัยของสงครามนี้อาจเป็นปีศาจที่เพิ่มขึ้นของโดรนที่ไม่มีคนขับหรืออาวุธอิสระอื่น ๆ กำลังเพิ่มความเร่งด่วนใหม่ให้กับความกังวลอย่างต่อเนื่องเกี่ยวกับ ‘หุ่นยนต์นักฆ่าที่ตกลงมาจากท้องฟ้าเพื่อตัดสินใจว่าพวกเขาควรโจมตีใคร

“ เลขาธิการมักจะพูดเสมอว่าการใช้ เครื่องจักรที่มีอำนาจที่ได้รับมอบหมายอย่างเต็มที่การตัดสินใจที่จะใช้ชีวิตมนุษย์เป็นเพียงแค่ความเกลียดชังทางศีลธรรม” Izumi Nakamitsu หัวหน้าสำนักงานของสหประชาชาติเพื่อการลดอาวุธไม่ควรได้รับอนุญาตในความเป็นจริงแล้วต้องห้ามโดยกฎหมายระหว่างประเทศนั่นคือตำแหน่งของสหประชาชาติ”

Human Rights Watch ซึ่งเป็นองค์กรพัฒนาเอกชนระหว่างประเทศได้กล่าวว่าการใช้อาวุธอิสระจะเป็นตัวอย่างล่าสุดที่ร้ายแรงที่สุดของการรุกล้ำ“ การลดทอนความเป็นมนุษย์” โดย AI ทำให้การตัดสินใจเปลี่ยนแปลงชีวิตในเรื่องที่ส่งผลกระทบต่อมนุษย์เช่นการรักษากฎหมายการบังคับใช้กฎหมายและการควบคุมชายแดน

–หลายประเทศที่มีทรัพยากรที่สำคัญกำลังลงทุนอย่างมากในด้านปัญญาประดิษฐ์และเทคโนโลยีที่เกี่ยวข้องเพื่อพัฒนาระบบอาวุธอิสระทางบกและทางทะเล นี่คือความจริง” เตือน Mary Wareham ผู้อำนวยการฝ่ายสนับสนุนกองอาวุธเกี่ยวกับ Human Rights Watch “ มันถูกขับเคลื่อนโดยสหรัฐอเมริกา แต่ประเทศสำคัญอื่น ๆ เช่นรัสเซียจีนอิสราเอลและเกาหลีใต้ได้ลงทุนอย่างหนักในระบบอาวุธอิสระ”

ผู้สนับสนุนสำหรับสงครามที่ขับเคลื่อนด้วย AI มักจะชี้ไปที่ข้อ จำกัด ของมนุษย์เพื่อแสดงให้เห็นถึงการขยายตัว ทหารสามารถทำข้อผิดพลาดในการตัดสินดำเนินการเกี่ยวกับอารมณ์ความรู้สึกต้องการพักผ่อนและแน่นอนว่าค่าแรงต้องการ – ในขณะที่เครื่องจักรพวกเขาโต้แย้งปรับปรุงทุกวันในการระบุภัยคุกคามตามพฤติกรรมและรูปแบบการเคลื่อนไหว ขั้นตอนต่อไปผู้เสนอบางคนแนะนำให้ระบบอิสระในการตัดสินใจว่าจะดึงทริกเกอร์เมื่อใด

มีการคัดค้านหลักสองประการที่จะให้เครื่องจักรเข้ามาในสนามรบ: ประการแรกเทคโนโลยีนั้นยังห่างไกลจากการเข้าใจผิด ประการที่สองสหประชาชาติและองค์กรอื่น ๆ อีกมากมายมองว่าการใช้กฎหมายนั้นผิดจรรยาบรรณ

“ มันง่ายมากสำหรับเครื่องจักรที่จะเข้าใจผิดเป้าหมายของมนุษย์” นางสาววาเรแฮมแห่งองค์กรสิทธิมนุษยชนกล่าว คนพิการมีความเสี่ยงเป็นพิเศษเพราะพวกเขาเคลื่อนไหววิธีที่พวกเขาเคลื่อนไหวรถเข็นของพวกเขาสามารถเข้าใจผิดว่าเป็นอาวุธนอกจากนี้ยังมีความกังวลว่าเทคโนโลยีการจดจำใบหน้าและการวัดไบโอเมตริกซ์อื่น ๆ ไม่สามารถระบุคนที่มีโทนสีผิวที่แตกต่างกันได้อย่างถูกต้อง

สำหรับการคัดค้านทางจริยธรรมและศีลธรรม Nicole van Rooijen ผู้อำนวยการบริหารของ หยุดหุ่นยนต์นักฆ่าการรณรงค์พันธมิตรสำหรับกฎหมายระหว่างประเทศฉบับใหม่เกี่ยวกับความเป็นอิสระในระบบอาวุธกล่าวว่าพวกเขาจะทำให้มันยากมากที่จะยืนยันความรับผิดชอบต่ออาชญากรรมสงครามและความโหดร้ายอื่น ๆ

“ ใครเป็นผู้รับผิดชอบหรือไม่เป็นผู้ผลิตหรือไม่หรือคนที่ตั้งโปรแกรมอัลกอริทึม?

การห้ามภายในปี 2569?

ความเร็วที่เทคโนโลยีกำลังก้าวหน้าและมีหลักฐานว่า AI เปิดใช้งานระบบการกำหนดเป้าหมายได้ถูกนำมาใช้ในสนามรบแล้วกำลังเพิ่มความเร่งด่วนเบื้องหลังการเรียกร้องให้มีกฎสากลของเทคโนโลยี

ในเดือนพฤษภาคม การอภิปรายอย่างไม่เป็นทางการ ถูกจัดขึ้นที่สำนักงานใหญ่ของสหประชาชาติซึ่งนาย Guterres เรียกร้องให้ประเทศสมาชิกเห็นด้วยกับข้อตกลงที่มีผลผูกพันตามกฎหมายเพื่อควบคุมและห้ามการใช้งานภายในปี 2569

ความพยายามในการควบคุมและห้ามกฎหมายไม่ใช่เรื่องใหม่ อันที่จริงสหประชาชาติจัดขึ้น การพบกันครั้งแรก ของนักการทูตในปี 2014 ที่ Palais des Nations ในเจนีวาซึ่งเป็นประธานของการเจรจาผู้เชี่ยวชาญสี่วันเอกอัครราชทูต Jean-Hugues Simon-Michel แห่งฝรั่งเศสอธิบายกฎหมายว่าเป็น“ ปัญหาที่เกิดขึ้นใหม่ในวาระการปลดอาวุธในขณะนี้” แม้ว่าจะไม่มีการใช้ระบบอาวุธอิสระ มุมมองนั้นก็คือการกระทำที่ถูกจองล่วงหน้านั้นจำเป็นต้องมีกฎเกณฑ์ในการแข่งขันว่าเทคโนโลยีจะทำให้กฎหมายเป็นจริง

11 ปีต่อมาการเจรจากำลังดำเนินอยู่ แต่ก็ยังไม่มีฉันทามติเกี่ยวกับคำจำกัดความของอาวุธอิสระ อย่างไรก็ตามองค์กรพัฒนาเอกชนและสหประชาชาติเป็นคนมองโลกในแง่ดีว่าประชาคมระหว่างประเทศกำลังเข้าสู่ความเข้าใจร่วมกันอย่างช้าๆในประเด็นสำคัญ

“ เราไม่ได้อยู่ใกล้กับการเจรจาต่อรองข้อความ” Ms. Rouijen กล่าวจาก Cease Killer Robots “ อย่างไรก็ตามเก้าอี้ปัจจุบันของ อนุสัญญาเกี่ยวกับอาวุธทั่วไปบางชนิด (เครื่องมือกฎหมายด้านมนุษยธรรมของสหประชาชาติในการห้ามหรือ จำกัด การใช้อาวุธประเภทเฉพาะที่ได้รับการพิจารณาว่าทำให้เกิดความทุกข์ทรมานที่ไม่จำเป็นหรือไม่ยุติธรรมต่อนักสู้หรือส่งผลกระทบต่อพลเรือนโดยไม่เลือกปฏิบัติ) ได้หยิบยกข้อความที่ค่อนข้างมีแนวโน้มและหากมีความกล้าหาญทางการเมืองและความกล้าหาญทางการเมือง

Ms. Wareham จาก Human Rights Watch ยังเห็นการเจรจาพฤษภาคมที่สหประชาชาติเป็นก้าวสำคัญ “ อย่างน้อย 120 ประเทศอยู่บนเรืออย่างเต็มที่โดยมีการเรียกร้องให้เจรจากฎหมายระหว่างประเทศใหม่เกี่ยวกับระบบอาวุธอิสระเราเห็นความสนใจและการสนับสนุนมากมายรวมถึงจากผู้ได้รับรางวัลสันติภาพผู้เชี่ยวชาญ AI คนงานเทคโนโลยีและผู้นำศรัทธา”

“ มีข้อตกลงที่เกิดขึ้นใหม่ว่าควรห้ามระบบอาวุธที่เป็นอิสระอย่างเต็มที่” นางนากามิทสึกล่าวจากสำนักงานสหประชาชาติเพื่อการปลดอาวุธ “ เมื่อพูดถึงสงครามใครบางคนจะต้องรับผิดชอบ”