จริยธรรมของรถยนต์ไร้คนขับไม่ใช่แค่การเลือกสละชีวิตใคร แต่ต้องให้ปลอดภัยอย่างถ้วนหน้า

เมื่อต้นเดือนที่ผ่านมา กูเกิลเปิดตัว ‘เวย์โม’ บริการรถยนต์ไร้คนขับที่ขับเคลื่อนด้วยระบบปัญญาประดิษฐ์ และอ้างว่าระบบนี้จะเพิ่มความปลอดภัยขึ้นนับร้อยเท่า (แต่ยังไม่ใช่ 100 เปอร์เซ็นต์) และบริการนี้จะเปิดใช้ช่วงปลายปีที่เมืองฟีนิกส์เป็นแห่งแรก

ก่อนหน้านี้ บริษัทนิสสันก็ทดลองใช้งานรถยนต์ไร้คนขับบนนถนนจริงโดยให้บริการผ่านแอพ Easy Ride โดยทดลองวิ่งอยู่ในรัศมีประมาณ 4 กิโลเมตรจากสำนักงานใหญ่ของนิสสันไปยังย่านการค้ารอบๆ เมืองโยโกฮาม่า เป็นการทดลองเพื่อปรับปรุงบริการรถยนต์ไร้คนขับซึ่งคาดว่าจะออกให้บริการในปี 2020

อย่างไรก็ตาม ขณะที่มีการป่าวประกาศพัฒนาการของรถยนต์ไร้คนขับออกมาเรื่อยๆ ในอีกมุม ก็มีข่าวอุบัติเหตุจากนวัตกรรมนี้ออกมาเป็นระยะๆ ให้ผู้คนตื่นกลัว เช่น ข่าวรถยนต์ไร้คนขับของอูเบอร์ชนคนเดินถนนในขณะทดลองวิ่งที่อาริโซน่า หรือข่าวรถยนต์ในโหมดขับเองของเทสล่าประสบอุบัติเหตุบนไฮเวย์

ข่าวเหล่านี้ชวนให้กลับมาคิดถึงประเด็นจริยธรรมของรถยนต์ไร้คนขับอีกครั้ง ซึ่งเป็นประเด็นที่มีมาตั้งแต่เริ่มพัฒนา และปัจจุบันยังไม่มีคำตอบที่แน่ชัด

รถยนต์ไร้คนขับคันเดียวแต่ใช้เทคโนโลยีทั้งระบบ

ฟังดูเหมือนจะเป็นเทคโนโลยีที่จะได้ใช้จริงในอนาคตอันใกล้ในโลกที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ แต่สิ่งที่ทำให้รถยนต์ไร้คนขับออกมาใช้จริงๆ ได้ช้า ก็เพราะว่าการพัฒนารถยนต์ไร้คนขับไม่ใช่แค่การพัฒนาโปรแกรมให้ฉลาดขึ้น เนื่องจากการประมวลผลในสถานการณ์จริงบนท้องถนนมีปัจจัยที่คาดไม่ถึงอยู่มากมาย

รถยนต์ไร้คนขับไม่ได้เป็นแค่ผู้ช่วยเวลาขับรถ แต่จะต้องจัดการทุกอย่างด้วยตัวเองตั้งแต่ออกจากที่จอดไปจนถึงที่หมาย ความซับซ้อนของเทคโนโลยีจึงอยู่ตรงที่รถยนต์จะต้องเชื่อมต่อเข้ากับระบบนำทางและประมวลผลการจราจรให้ทันเวลา เพราะการวิ่งบนถนนจริงๆ ต้องใช้ข้อมูลแบบเรียลไทม์ ซึ่งปัจจุบัน ลำพังแผนที่ในแอปฯ โทรศัพท์ที่เราว่าฉลาดแล้วก็ยังไม่เพียงพอ

เมื่อสมองกลมาควบคุมรถทั้งคัน รถยนต์จึงต้องรู้แม้กระทั่งความเร็วที่วิ่งอยู่ ระยะห่างจากรถคันหน้าและคันหลัง ยังไม่นับว่าต้องพร้อมที่จะกลับรถบนถนนที่มีการสัญจรขวักไขว่อยู่ตลอดเวลา เรื่องเหล่านี้เป็นโจทย์ท้าทาย เพราะแม้แต่รถยนต์ไร้คนขับของกูเกิลก็ยังกะระยะเลี้ยวพลาดมาแล้ว และกรณีอุบัติเหตุที่เกิดขึ้นกับรถของอูเบอร์และเทสล่าก็อาจทำให้ตั้งคำถามได้ว่า รถยนต์ไร้คนขับมีความสามารถในการระบุวัตถุที่อยู่ตรงหน้าอย่างไร และมีความแม่นยำขนาดไหน

ประเด็นทางจริยธรรม: ปัญหาที่แท้จริง

ปัญหาใหญ่สำหรับการพัฒนารถยนต์ไร้คนขับซึ่งเป็นปัญหาคลาสสิกในการเรียนจริยศาสตร์ (วิชาปรัชญาว่าด้วยเรื่องศีลธรรมจริยธรรม) คือ ปัญหารถราง (Trolley Problem) ซึ่งเป็นตัวอย่างที่ใช้ทดลองการตัดสินทางศีลธรรมที่ไม่มีคำตอบที่ดีที่สุด กล่าวคือ พื้นฐานทางศีลธรรมประการหนึ่งคือไม่ทำอันตราย (Harm) แก่ผู้อื่น แต่ในกรณีของรถราง เราจะต้องเลือกระหว่างปล่อยให้คนห้าคนถูกรถรางชน หรือสลับรางไปชนคนหนึ่งคนแทน

แม้จะไม่มีคำตอบตายตัว แต่ประเด็นนี้เป็นปัญหาคลาสสิก เพราะการตัดสินใจในกรณีรถรางจะบ่งบอกว่า ผู้คิดใช้เกณฑ์จริยธรรมอะไรในการตัดสินปัญหาดังกล่าว

นักวิจัยจากมหาวิทยาลัย Ghent ในประเทศเบลเยียมได้ทำการทดลองในอาสาสมัครจำนวน 200 คนว่า จะเลือกกดปุ่มให้ไฟฟ้าช็อตหนูในกล่องหนึ่งตัว เพื่อช่วยไม่ให้หนูอีกห้าตัวในกรงอีกแห่งหนึ่งโดนไฟช็อตหรือไม่ และถ้าหากตัดสินใจช้า หนูที่อยู่ในกรงจะโดนไฟช็อตทันที

การทดลองนี้พยายามจำลองสถานการณ์ของ Trolley Problem ให้ผู้ทำการทดลองต้องตัดสินใจจริงๆ ผลการทดลองพบว่า หากเป็นสถานการณ์สมมติ (คือไม่มีหนูในกรงจริงๆ) คนจำนวน 66 เปอร์เซ็นต์เลือกปล่อยให้หนูหนึ่งตัวโดนไฟช็อตเพื่อรักษาอีกห้าตัว แต่เมื่ออยู่ในสถานการณ์จริง ผู้เข้าร่วมการทดลองที่ตัดสินใจปล่อยให้หนูหนึ่งตัวโดนไฟช็อตกลับมีมากถึง 84 เปอร์เซ็นต์

หากเป็นสถานการณ์สมมติ คนจำนวน 66 เปอร์เซ็นต์เลือกปล่อยให้หนูหนึ่งตัวโดนไฟช็อตเพื่อรักษาอีกห้าตัว แต่เมื่ออยู่ในสถานการณ์จริง ผู้เข้าร่วมการทดลองปล่อยให้หนูหนึ่งตัวโดนไฟช็อตมากถึง 84 เปอร์เซ็นต์

ปัญหารถรางถูกใช้เป็นพื้นฐานในการออกแบบรถยนต์ไร้คนขับตั้งแต่เริ่มมีข่าวการพัฒนา ในกรณีคับขัน รถยนต์ไร้คนขับจะต้องตัดสินใจว่าจะเลือกชีวิตคนขับหรือบุคคลและทรัพย์สินบนท้องถนน

แน่นอนว่าคงไม่มีใครเลือกรถยนต์ที่สละชีวิตเจ้าของรถเพื่อรักษาชีวิตคนที่อยู่นอกรถ แต่ความยุ่งยากก็คือ เป็นไปได้ไหม ที่จะออกแบบให้รถยนต์เห็นแก่ชีวิตผู้อื่นบนท้องถนนและยังรักษาความปลอดภัยของผู้โดยสารพร้อมๆ กัน?

นักปรัชญากับรถยนต์ไร้คนขับ

นิโคลัส อีวาน (Nicholas Evan) อาจารย์ปรัชญาที่สอน ‘จริยธรรมในวิศวกรรม’ เพิ่งจะเป็นผู้ชนะทุนวิจัยจากมูลนิธิวิทยาศาสตร์แห่งชาติของอเมริกา เขาบอกว่าโครงการวิจัยนี้ศึกษาวิธีคิดมราว่า รถยนต์ไร้คนขับจะรับความเสี่ยงที่จะเกิดอันตรายได้มากน้อยแค่ไหน

แม้ว่าโดยพื้นฐานแล้ว คนที่ซื้อรถต้องการความปลอดภัยสูงสุดและคำนึงถึงความปลอดภัยของตนที่จะได้จากรถมาเป็นอันดับแรก แต่หากเปลี่ยนเป็นกรณีที่คนขับรถอาจต้องเสี่ยงบาดเจ็บบ้างเล็กน้อยเพื่อช่วยลดความเสียหายโดยรวมจากอุบัติเหตุ การตัดสินใจแบบนี้ก็อาจเป็นเรื่องที่ยอมรับได้ เช่น เพื่อที่จะหลีกเลี่ยงการชนกับรถรับส่งนักเรียน ความบาดเจ็บเล็กน้อยของเจ้าของรถก็ถือว่ายังดีกว่าให้เด็กนักเรียนได้รับบาดเจ็บ

ข้อเสนอที่น่าสนใจของอีวานคือ การแปลงเกณฑ์การตัดสินจริยธรรมให้เป็นอัลกอริทึมที่โปรแกรมของรถจะเข้าใจได้

ในจริยศาสตร์ตะวันตก แนวคิดกระแสหลักที่เป็นเกณฑ์ตัดสินคุณค่าของการกระทำก็คือประโยชน์นิยม ซึ่งหมายถึงแนวคิดที่เลือกตัดสินการกระทำจากผลของการกระทำ กับแนวคิดแบบกรณียธรรม (Deontology) ที่ตัดสินจริยธรรมจากหลักการหรือกฎศีลธรรม

ไม่เพียงการออกแบบตัวรถยนต์ แต่ระบบการจราจรก็เป็นสิ่งสำคัญ ที่จะกำหนดว่าถนนหนทางสำหรับรองรับรถยนต์ไร้คนขับ ควรมีหน้าตาเป็นอย่างไร

แนวคิดพื้นฐานของประโยชน์นิยมก็คือ คนทุกคนมีค่าเท่าเทียมกัน (เพราะว่าท้ายที่สุดแล้ว หลักมหสุขนั้นนับที่จำนวนของความสุข) ดังนั้น ชีวิตของผู้โดยสารในรถและคนเดินถนนมีค่าเท่ากัน การหลีกเลี่ยงอันตรายจะเลือกผลเสียที่น้อยที่สุดก่อน ผลก็คือ เป็นไปได้ว่าคนที่นั่งอยู่ในรถอาจได้รับความเสี่ยงมากกว่า

ส่วนแนวคิดอีกแบบที่ไม่พิจารณาผลการกระทำ กลับมองว่า รถมีหน้าที่บางอย่างเป็นพื้นฐาน เช่น การขับขี่ไปจนถึงที่หมาย การสร้างรถยนต์ที่ใช้หลักการพื้นฐานแบบนี้ในการตัดสินใจ อาจช่วยให้เจ้าของรถรู้สึกปลอดภัยในการใช้รถยนต์ไร้คนขับ เพราะรถยนต์จะไม่สละชีวิตเจ้าของรถเป็นอันดับแรก

แม้งานวิจัยนี้จะยังไม่ได้ข้อสรุป แต่ก็ยังมีประเด็นอื่นๆ ที่อีวานให้ความสนใจ เช่นระบบความปลอดภัยของรถ ว่าจะปลอดภัยจากการถูกแฮ็กหรืออุบัติเหตุจากรถคันอื่น เช่น การถูกขับจี้ท้าย หรือไม่

นอกจากอีวานแล้ว คณะทำวิจัยของเขายังประกอบด้วยนักวิชาการด้านวิศวกรรมและนักวิทยาศาสตร์ด้านสุขภาพเข้ามาร่วมวิจัย เพราะอีวานมองว่า ไม่เพียงการออกแบบตัวรถยนต์ แต่ระบบการจราจรก็เป็นสิ่งสำคัญ ที่จะกำหนดว่าถนนหนทางสำหรับรองรับรถยนต์ไร้คนขับ ควรมีหน้าตาเป็นอย่างไร

ปรับปรุงจากข้อมูลการใช้จริง

ประเด็นนี้ไม่ได้เป็นเพียงเรื่องถกเถียงหรือครุ่นคิดกันอยู่ในแวดวงนักปรัชญา แต่มีการวิจัยในสถานการณ์จริง  ปัจจุบัน ในเยอรมันนีมีแนวคิดที่จะให้รถทุกคันบรรจุกล่องดำที่ช่วยบันทึกการขับขี่ทั้งหมด เพื่อให้สามารถนำข้อมูลจริงไปตรวจสอบได้ว่า อุบัติเหตุเกิดจากความผิดพลาดของรถหรือผู้โดยสาร และมีเกมที่เป็นเหมือนแบบสอบถามของสถาบันเทคโนโลยีแห่งแมทซาชูเส็ตต์ (MIT) ทำหน้าที่เก็บข้อมูลและประมวลผลการตัดสินใจแบบกรณีแบบรถราง แล้วนำข้อมูลนี้ไปพัฒนาการตัดสินใจทางจริยธรรมของเครื่องจักร

รถยนต์ไร้คนขับเป็นตัวอย่างที่ดีที่แสดงให้เห็นว่า ตัวเทคโนโลยีซึ่งเป็นการออกแบบทางเทคนิคให้รถวิ่งไปตามเส้นทางไม่ใช่เรื่องยาก สิ่งที่ยากคือการควบคุมหรือทำนายผลความเสียหายที่จะเกิดขึ้นเมื่อรถยนต์ไร้คนขับมาอยู่บนถนนร่วมกับรถยนต์คันอื่นๆ

อุบัติเหตุที่เกิดขึ้นชวนให้เราคิดว่า เราจะรับมือกับเทคโนโลยีใหม่ที่จะใช้ในสังคมอย่างไร และเป็นตัวอย่างที่ทำให้เห็นได้ชัดว่า ไม่ง่ายเลยที่เทคโนโลยีใหม่จะเข้ามาอยู่ในระบบการจราจรแบบที่เราใช้กันอยู่ทุกวันนี้  แต่การแก้ปัญหาด้วยการจัดช่องทางพิเศษสำหรับรถยนต์ไร้คนขับดูจะเป็นการให้อภิสิทธิ์กับรถยนต์ไร้คนขับมากกว่าคนอื่นๆ ในสังคม

ท้ายที่สุดแล้วจริยธรรมของรถยนต์ไร้คนขับจึงไม่ใช่แค่การออกแบบวิธีตัดสินใจของรถเท่านั้น มันมีนัยยะของความเป็นธรรมแก่พลเมืองคนอื่นๆ ที่ใช้ถนนร่วมกันด้วย