จีนใช้ปัญญาประดิษฐ์และคลังข้อมูลควบคุมพฤติกรรมประชาชน ใครทำไม่ดีต้องถูกตัดแต้ม ถูกประจาน ถูกตัดสิทธิ์ใช้บริการสาธารณะ ใครทำดีจะมีรางวัลล่อใจ

เวลานี้ เมืองใหญ่หลายแห่งของจีนเริ่มนำระบบ ‘social credit’ มาใช้สอดส่องและกำกับการใช้ชีวิตประจำวันของพลเมือง ด้วยเป้าหมายที่จะส่งเสริมพฤติกรรมที่รัฐปรารถนา และลงโทษพฤติกรรมที่รัฐไม่ต้องการ

ระบบ ‘คะแนนคนดี’ กำลังอยู่ระหว่างการพัฒนา คาดกันว่า หน้าตาของเทคโนโลยีอาจเป็นประมาณนี้…

 

ดอกไม้สำหรับคนดี ก้อนอิฐสำหรับคนไม่ดี

ในทันทีที่ก้าวเท้าออกจากบ้าน ผู้คนจะถูกรัฐจับตาด้วยกล้องจดจำใบหน้า ใครข้ามถนนนอกทางม้าลาย ทิ้งขยะไม่เป็นที่ หรือประพฤติยอดแย่ จอบิลบอร์ดที่สี่แยก ในสนามบิน สถานีรถไฟ หรือห้างสรรพสินค้า จะโชว์ภาพใบหน้า ชื่อเสียงเรียงนาม และคำบรรยายพฤติกรรมของคนไม่เคารพกฎทันที

ท้องถนนในกรุงปักกิ่ง ภาพถ่ายเมื่อ 16 เมษายน 2018 โดย FRED DUFOUR / AFP

ใครไม่จ่ายค่าน้ำค่าไฟ เวลาซื้อตั๋วรถไฟตั๋วเครื่องบินทางออนไลน์ ระบบจะไม่ขายตั๋วให้ ใครไปร่วมกิจกรรมของกลุ่มองค์กรที่รัฐไม่อนุญาต ต้องถูกตัดแต้ม ใครผิดนัดชำระหนี้ เวลามีใครโทร.หา เขาจะได้ยินเสียงเตือนว่า “คุณกำลังติดต่อกับบุคคลที่ศาลตัดสินว่ามีความผิด”

ตรงกันข้าม ใครทำตัวดีเลิศประเสริฐวิเศษ อย่างที่รัฐอยากให้เป็น เขาเธอจะมีเครดิตถึงระดับ AAA พลเมืองที่ได้เกรดทริปเปิลเอนั้น ไปไหนมาไหนก็จะได้รับสิทธิพิเศษ ลดแลกแจกแถม ผิดกับพวกที่ได้เกรด D ซึ่งแทบหมดปัญญาออกนอกบ้าน รัฐบาลไม่รับเข้าทำงาน

พลเมืองแต่ละคนจะถูกรัฐประเมิน ‘คุณธรรม’ ทุกเวลานาที จนกว่าชีวิตจะหาไม่

ปักกิ่งประเดิม ‘เทคโนโลยีจัดเกรดจริยธรรม’

จีนมีแผนที่จะสร้างระบบตัดสินพฤติกรรมทางสังคมของพลเมือง 1,300 ล้านคนในอนาคตอันใกล้ มหานครปักกิ่งจะเป็นเมืองแรกที่นำระบบตราหน้าค่าชื่อ ‘บุคคลไร้คุณธรรม’ มาใช้ในปี 2564

ระบบนี้อาศัยเทคโนโลยี 2 -3 อย่าง คือ เทคโนโลยีจดจำใบหน้า ปัญญาประดิษฐ์ (AI-Artificial Intelligence) และคลังข้อมูล (Big Data)  

เว็บไซต์ของเทศบาลปักกิ่งประกาศเมื่อวันจันทร์ที่ 19 พฤศจิกายนว่า ประชากร 22 ล้านคนของมหานครแห่งนี้จะถูกประเมินคุณค่าด้วยคะแนนทางสังคม แต่ละคนจะมีคะแนนตั้งต้น 100 คะแนน ใครทำผิดกฎหมายจะถูกตัดแต้มและถูกจัดเกรดซึ่งมี 6 อันดับ ยิ่งเหลือคะแนนน้อย เกรดยิ่งต่ำ ชีวิตจะยิ่งยากลำบาก

คนที่ถูกขึ้นบัญชีดำจะไปไหนไม่ได้แม้แต่ก้าวเดียว ไม่สามารถเข้าใช้งานอินเทอร์เน็ต ไม่สามารถขอกู้เงิน ไม่สามารถเข้าเรียน ไม่สามารถรับราชการ ส่วนคนที่มีเครดิตสูงจะได้รับบริการที่ลัดขั้นตอน ชีวิตจะพบแต่ความสะดวกรวดเร็ว

เมืองอื่นๆ ก็กำลังทำแบบเดียวกัน ตามตัวเลขของคณะกรรมการการปฏิรูปและการพัฒนาแห่งชาติ นับจนถึงสิ้นเดือนมิถุนายน คนที่ถูกตัดแต้มได้ถูกบล็อกไม่ให้สั่งซื้อตั๋วเครื่องบินแล้วกว่า 11 ล้านเที่ยว และไม่สามารถซื้อตั๋วรถไฟความเร็วสูงรวม 4 ล้านเที่ยว

มาตรการลงโทษเช่นนี้เกิดขึ้นได้เพราะผู้คนหันไปใช้แอพในการติดต่อสื่อสาร ซื้อสินค้าและบริการ กันมากขึ้น เช่น WeChat และ Alipay ซึ่งบัญชีผู้ใช้จะผูกอยู่กับเบอร์โทรศัพท์ ต้องใช้บัตรประชาชนในการลงทะเบียน และต้องระบุชื่อนามสกุลจริง การใช้ชีวิตทางออนไลน์ของผู้คนจึงถูกเฝ้าติดตามอยู่ตลอดเวลา

‘ตุลาการดิจิทัล’ ชี้ขาด นรกหรือสวรรค์

ว่าไปแล้ว ระบบโซเชียลเครดิต คือ ผู้พิพากษาในโลกไซเบอร์ นั่นเอง

กล้องโทรทัศน์วงจรปิดทั่วทุกหัวระแหง ควบคู่กับปัญญาประดิษฐ์ ทำหน้าที่คอยจับผิดจับถูกประชาชนพลเมือง บริษัทห้างร้าน รวมถึงหน่วยงานของรัฐ ผลวินิจฉัยของตุลาการดิจิทัลเป็นเสมือนคำพิพากษา

เทคโนโลยีที่สามารถส่งผู้คนไปลงนรกหรือพาขึ้นสวรรค์แบบนี้ ถูกวิจารณ์มากในแง่ของความคลุมเครือของบรรทัดฐานในการตัดสิน โดยเนื้อแท้แล้ว สิ่งที่อยู่ข้างหลังโซเชียลเครดิตก็คือการใช้ดุลยพินิจของเจ้าหน้าที่รัฐ

ระบบดังกล่าวถูกตั้งคำถามอย่างน้อย 3 ข้อ ข้อแรก ในเมื่อรัฐเป็นทั้งผู้บังคับใช้กฎ เป็นผู้ประเมิน และผู้ถูกประเมินในเวลาเดียวกัน แล้วถ้าองค์กรของรัฐบาลเองทำผิดเล่า เช่น ผิดนับชำระหนี้แก่ผู้รับเหมา จ่ายค่าชดเชยเวนคืนที่ดินแบบหายหกตกหล่น หน่วยงานหรือเจ้าหน้าที่รัฐจะถูกตัดแต้มตามเนื้อผ้าจริงหรือ

ข้อสอง มั่นใจได้อย่างไรว่า หน่วยงานรัฐจะไม่บังคับใช้ระบบนี้แบบบิดเบือนวัตถุประสงค์ หรือแบบเลือกที่รักมักที่ชัง เช่น ใช้เล่นงานผู้เห็นต่างทางการเมือง ใช้ตอบโต้คนที่ร้องเรียนเจ้าหน้าที่รัฐ

ข้อสาม คนที่ถูกตัดแต้มจะอุทธรณ์แก้ต่างได้หรือไม่ อย่างไร  

ภายใต้เทคโนโลยีวัดความสูงต่ำของคุณธรรม ความเหลื่อมล้ำจะยิ่งทบทวีหรือเปล่า ‘คนดี’ จะยิ่งสุขสบาย และ ‘คนไม่ดี’ จะยิ่งทุกข์ระทม  

วันวาน จีนคอมมิวนิสต์จำแนกคนด้วยฐานะทางชนชั้น วันนี้ จีนทุนนิยมแยกแยะคนด้วย ‘ความดี’  สังคมแบบแรกกับสังคมแบบหลัง น่ากลัวต่างกันหรือไม่ อย่างไร เป็นคำถามที่ยั่วยวนให้เปิดอภิปราย

 

 

อ้างอิง:

ที่มาภาพเปิด: JOHANNES EISELE / AFP

Tags: , , ,