ลอรา โนแลน อดีตวิศวกรซอฟต์แวร์ของกูเกิล เรียกร้องให้แบนการใช้เครื่องจักรกลสังหารทุกชนิดที่ใช้เอไอแทนการควบคุมของมนุษย์ ก่อนหน้านี้ เธอลาออกจากกูเกิลเพื่อประท้วงการทำงานในโครงการพัฒนาเทคโนโลยีโดรนของกองทัพสหรัฐฯ
โนแลนกล่าวว่า หุ่นยนต์นักฆ่าที่ไม่ได้ควบคุมโดยมนุษย์ควรมีความผิดทางกฎหมาย เหมือนกับที่ข้อตกลงระหว่างประเทศแบนอาวุธชีวภาพ เนื่องจากมันมีศักยภาพพอที่จะก่อหายนะทั้งที่ไม่ได้ถูกตั้งโปรแกรมไว้ตั้งแต่ต้น
โนแลนได้เข้าร่วมแคมเปญ ‘หยุดหุ่นยนต์นักฆ่า’ และกล่าวต่อคณะทูตสหประชาชาติที่กรุงนิวยอร์กและกรุงเจนีวาถึงอันตรายของอาวุธที่สั่งการด้วยตัวเองว่า หายนะเกิดขึ้นได้จากการปล่อยอาวุธอัตโนมัติลงไปในพื้นที่ที่ระบุเพียงครั้งเดียว และสามารถสร้างความเสียหายในระดับที่ใหญ่ขึ้น เพราะอาวุธชนิดนี้เราไม่สามารถคาดเดาพฤติกรรมของมันได้เลย นั่นคือเหตุผลว่าทำไมอาวุธทุกชนิดต้องถูกควบคุมโดยมนุษย์ ดังนั้นจึงควรแบนอาวุธชนิดนี้ เนื่องจากมันอันตรายและไม่สามารถคาดการณ์ได้
หลังจากทำงานในกูเกิลได้ 4 ปี ในปี 2017 โนแลนได้รับเลือกจากกูเกิลให้เข้ามาทำงานในโครงการ Maven ซึ่งเป็นโครงการที่ช่วยกระทรวงกลาโหมของสหรัฐฯ เร่งสร้างโดรนเทคโนโลยีจำแนกภาพเคลื่อนไหว โดยแทนที่จะใช้กำลังทหารจำนวนมากดูภาพวิดีโอฟุตเทจชั่วโมงต่อชั่วโมงเพื่อล็อกเป้าหมาย โนแลนและคนอื่นๆ ถูกขอให้สร้างระบบที่เอไอสามารถจำแนกผู้คนและวัตถุได้ในอัตราที่เร็วขึ้นอย่างไม่จำกัด การทำงานในโครงการดังกล่าวทำให้เธอกังวลในประเด็นจริยธรรมมากขึ้น
ต่อมา หลังจากที่พนักงาน 3,000 คน เข้าชื่อประท้วงการมีส่วนร่วมของกูเกิลในเรื่องนี้ กูเกิลตัดสินใจไม่ต่อสัญญาโครงการ Maven ซึ่งจะหมดลงปลายปีนี้
โนแลนได้ร่างภาพให้เห็นว่า หากอาวุธอัตโนมัติถูกพัฒนาจนสำเร็จออกมาใช้จริง เมื่อมันถูกส่งออกมาแล้วไปตามสัญญาณเรด้า และเกิดการเปลี่ยนทิศทางที่ไม่สามารถควบคุมได้ด้วยซอฟต์แวร์ เช่น สภาพอากาศ เมื่อมันหลุดเข้าไปในพื้นที่ที่ไม่ได้ระบุไว้แต่แรก มันจะไม่สามารถแยกแยะพฤติกรรมของมนุษย์ที่มีความซับซ้อนได้ เช่น มันอาจตรวจเจอกลุ่มคนที่มีอาวุธ แต่ไม่สามารถแยกได้หรือมีสามัญสำนึกรู้ว่า คนกลุ่มนั้นคือศัตรูหรือเพียงกลุ่มคนที่ออกล่าสัตว์เพื่อหาอาหาร
ขณะเดียวกันในมุมมองของทหาร อาวุธอัตโนมัติเป็นการเพิ่มศักยภาพทางทหาร เพราะการใช้โดรนที่บังคับโดยมนุษย์ และการตัดสินใจของมนุษย์ว่าเมื่อไรจะต้องยิงนั้นเป็นการใช้กำลังทหารมากมายในหนึ่งครั้ง และโดรนที่สั่งการด้วยมนุษย์ก็เป็นเครื่องมือที่ต้องรับสัญญาณคำสั่งจากฐานทัพ มันจะไร้ประโยชน์ทันทีหากศัตรูตัดช่องทางสื่อสารได้ นอกจากนี้ อาวุธอัตโนมัติยังช่วยลดกำลังทหารในการควบคุมดูแลอาวุธขณะปฏิบัติการด้วย
แม้เรื่องอาวุธอัตโนมัติดูจะเป็นเรื่องใหม่และยังไม่มีการพูดถึงในวงกว้าง แต่ที่ผ่านมากองทัพหลายประเทศก็ได้พัฒนาอาวุธชนิดดังกล่าวขึ้นมาใช้บ้างแล้ว เช่น เรือปืน AN-2 Anaconda ของกองทัพเรือสหรัฐฯ ที่ถูกพัฒนาให้เป็นเรืออาวุธอัตโนมัติเต็มรูปแบบ ซึ่งสามารถลาดตระเวนเป็นระยะเวลานานๆ โดยไม่ต้องมีมนุษย์ควบคุม หรือ รถถัง T-14 Armata ของรัสเซีย ที่ถูกออกแบบมาเพื่อตอบโต้การยิงโดยที่ไม่ต้องมีคนควบคุมเครื่องอยู่ข้างใน
ที่มา:
https://www.vox.com/2019/6/21/18691459/killer-robots-lethal-autonomous-weapons-ai-war
https://time.com/5673240/china-killer-robots-weapons
https://www.theverge.com/2018/6/1/17418406/google-maven-drone-imagery-ai-contract-expire
ภาพ: REUTERS/Sergei Karpukhin
Tags: AI, สหรัฐอเมริกา, กูเกิล, หุ่นยนต์
