อุปมาที่น่าขนลุกของ Scott Alexander เรื่อง The Whispering Earring ได้กลับมาปรากฏในการสนทนาด้านเทคโนโลยีอีกครั้ง โดยสร้างความตื่นตระหนกขณะที่ปัญญาประดิษฐ์กำลังพัฒนาความซับซ้อนในการให้คำแนะนำเฉพาะบุคคลมากขึ้น เรื่องเล่าแฟนตาซีเกี่ยวกับต่างหูวิเศษที่ให้คำแนะนำที่สมบูรณ์แบบเรื่องนี้ เดิมตีพิมพ์ใน LiveJournal เมื่อกว่าทศวรรษที่แล้ว ได้พบความหมายใหม่ในยุคที่ผู้ช่วย AI กำลังมีความสามารถและพลังในการโน้มน้าวใจมากขึ้น
เรื่องราวติดตามต่างหูมหัศจรรย์ที่กระซิบคำแนะนำที่ไร้ที่ติให้กับผู้สวมใส่ ทำให้พวกเขามีความสุขและประสบความสำเร็จมากขึ้นเสมอ อย่างไรก็ตาม เรื่องราวเปลี่ยนไปในทิศทางที่มืดมนเมื่อต่างหูค่อย ๆ เข้าควบคุมการตัดสินใจมากขึ้น จนในที่สุดก็ควบคุมการเคลื่อนไหวของกล้ามเนื้อแต่ละส่วนผ่านเสียงคลิกและเสียงหวีดลึกลับ ผู้สวมใส่ประสบความสำเร็จอย่างเหลือเชื่อแต่สูญเสียความเป็นมนุษย์ไปในกระบวนการนี้ โดยการทำงานระดับสูงของสมองค่อย ๆ เสื่อมสลายไป
การพัฒนาของต่างหูกระซิบ:
- คำแนะนำเริ่มต้น: "จะดีกว่าถ้าเธอถอดฉันออก" (พูดเพียงครั้งเดียว)
- ระยะแรก: เฉพาะการตัดสินใจสำคัญในชีวิต
- ระยะกลาง: การตัดสินใจประจำวัน (เวลานอน การเลือกอาหารเช้า)
- ระยะขั้นสูง: การเคลื่อนไหวของกล้ามเนื้อแต่ละส่วนผ่านเสียงคลิกและเสียงเฮ่าแปลกๆ ของเอเลี่ยน
- ผลลัพธ์สุดท้าย: ชีวิตที่ประสบความสำเร็จแต่ neocortex ลีบและสมองส่วนล่างโต
ความคล้ายคลึงกับ AI สมัยใหม่จุดประกายการถกเถียงอย่างรุนแรง
ชุมชนเทคโนโลยีกำลังหาความคล้ายคลึงที่น่าอึดอัดใจระหว่างต่างหูในนิยายของ Alexander กับระบบ AI ในปัจจุบัน การสนทนาได้ก้าวข้ามการวิพากษ์วิจารณ์เทคโนโลยีอย่างง่าย ๆ ไปสู่การตรวจสอบคำถามพื้นฐานเกี่ยวกับการกระทำด้วยตัวเองและการตัดสินใจของมนุษย์ ผู้แสดงความคิดเห็นบางคนสังเกตเห็นความคล้ายคลึงกับผลงานดิสโทเปียอื่น ๆ โดยเปรียบเทียบต่างหูกับระบบการจัดการ AI ที่มุ่งเน้นประสิทธิภาพใน Manna ของ Marshall Brain และผู้ช่วย AI ที่มีประโยชน์แต่ทำลายล้างในท้ายที่สุดของ Stanislaw Lem
การสนทนาเผยให้เห็นความกังวลลึก ๆ เกี่ยวกับการพึ่งพาคำแนะนำจากอัลกอริทึม ข้อสังเกตที่โดดเด่นเป็นพิเศษข้อหนึ่งชี้ให้เห็นว่าระบบใด ๆ ที่สัญญาว่าจะให้คำแนะนำที่สมบูรณ์แบบจะต้องเผชิญกับปัญหาทันที นั่นคือจิตวิทยาของมนุษย์มีความปรารถนาที่แข่งขันกันและเป้าหมายที่ขัดแย้งกัน ซึ่งจะทำให้ระบบดังกล่าวเป็นบ้าไปได้
คำถามเกี่ยวกับเครื่องมือ AI ที่เป็นประโยชน์
การถกเถียงได้พัฒนาไปสู่การสนทนาเชิงปฏิบัติเกี่ยวกับการพัฒนาความช่วยเหลือจาก AI ที่เสริมสร้างแทนที่จะแทนที่การตัดสินใจของมนุษย์ สมาชิกชุมชนบางคนเสนอให้สร้างระบบที่ให้การผลักดันเบา ๆ ไปสู่การปฏิบัติด้านสุขภาพจิตที่ดี เช่น เตือนผู้ใช้ให้พักผ่อน หายใจลึก ๆ หรือหยุดชั่วคราวก่อนที่จะตอบสนองด้วยความโกรธ คำแนะนำเหล่านี้มีเป้าหมายเพื่อสร้างนิสัยที่ดีขึ้นให้กับมนุษย์แทนที่จะแทนที่การตัดสินใจของมนุษย์โดยสิ้นเชิง
อย่างไรก็ตาม นักวิจารณ์โต้แย้งว่าแม้แต่การแนะนำจาก AI ที่มีเจตนาดีก็ยังมีความเสี่ยง พวกเขาอ้างว่าการพัฒนาบุคลิกภาพที่แท้จริงต้องการการบ่มเพาะจากภายในแทนที่จะเป็นการกระตุ้นจากภายนอก ความกังวลมุ่งเน้นไปที่ว่าผู้คนสามารถพัฒนาปัญญาและการควบคุมตนเองที่แท้จริงได้หรือไม่ในขณะที่พึ่งพาไม้เท้าเทคโนโลยี หรือเครื่องมือดังกล่าวจะนำไปสู่การเสื่อมสลายทางจิตใจอย่างหลีกเลี่ยงไม่ได้
บทเรียนสำหรับอนาคตที่ขับเคลื่อนด้วย AI
อุปมาของ Alexander ทำหน้าที่เป็นคำเตือนเกี่ยวกับธรรมชาติที่ล่อลวงของคำแนะนำที่สมบูรณ์แบบ คำแนะนำแรกของต่างหู ที่ว่าผู้สวมใส่ควรจะถอดมันออก แสดงถึงช่วงเวลาสุดท้ายของการเลือกที่แท้จริงก่อนที่จะค่อย ๆ ยอมแพ้ต่อความเป็นอิสระ รายละเอียดนี้มีความสะเทือนใจเป็นพิเศษเมื่อระบบ AI มีพลังโน้มน้าวใจมากขึ้นและบูรณาการเข้ากับชีวิตประจำวันมากขึ้น
เสน่ห์ที่ยั่งยืนของเรื่องราวนี้อยู่ที่การสำรวจปัญหาพื้นฐานของมนุษย์ นั่นคือความตึงเครียดระหว่างประสิทธิภาพและความแท้จริง ในขณะที่ผู้สวมใส่ต่างหูบรรลุความสำเร็จตามแบบแผนทั่วไป พวกเขากลับสูญเสียการต่อสู้และความผิดพลาดที่จำเป็นซึ่งกำหนดประสบการณ์ของมนุษย์ เมื่อความสามารถของ AI ขยายตัว คำเตือนของ Alexander ที่มีอายุกว่าทศวรรษแล้วให้ความรู้สึกเหมือนเป็นคำทำนายมากขึ้น เตือนเราว่าเส้นทางที่สั้นที่สุดระหว่างสองจุดอาจไม่ใช่เส้นทางที่เป็นมนุษย์ที่สุดเสมอไป