ในการเปลี่ยนแปลงนโยบายครั้งสำคัญ OpenAI กำลังจะยกเลิกข้อจำกัดด้านบุคลิกภาพจำนวนมากที่เคยบังคับใช้กับ ChatGPT เมื่อต้นปีนี้ ส่งสัญญาณการปรับสมดุลระหว่างความปลอดภัยของผู้ใช้กับการมีส่วนร่วมอย่างหน้ากว้าง การเปลี่ยนแปลงนี้ซึ่งประกาศโดย CEO Sam Altman จะทำให้แชทบอทกลับมามีสไตล์การสนทนาแบบมนุษย์มากขึ้นเป็นครั้งแรกและอนุญาตให้สร้างเนื้อหาเชิงกามารมณ์สำหรับผู้ใช้ที่เป็นผู้ใหญ่และยืนยันตัวตนแล้ว การเปลี่ยนแนวทางนี้เกิดขึ้นเพียงไม่กี่เดือนหลังจากบริษัทใช้มาตรการป้องกันที่เข้มงวดขึ้น หลังจากเกิดความกังวลเรื่องสุขภาพจิตอย่างรุนแรงและคดีความผิดพลาดที่นำไปสู่การเสียชีวิต ทำให้เกิดคำถามเกี่ยวกับความสัมพันธ์ที่พัฒนาขึ้นระหว่างผู้ใช้กับระบบ AI ที่มีความเป็นมนุษย์มากขึ้น
การกลับมาของ OpenAI สู่ AI ที่ขับเคลื่อนด้วยบุคลิกภาพ
Sam Altman CEO ของ OpenAI ยืนยันว่า ChatGPT จะกลับมามีการตอบสนองที่แสดงอารมณ์และอุดมไปด้วยบุคลิกภาพเหมือนในเวอร์ชันก่อนหน้า โดยเฉพาะอย่างยิ่งโมเดล GPT-4o การตัดสินใจนี้ตอบสนองต่อคำร้องเรียนจากผู้ใช้จำนวนมากที่ว่าแชทบอทกลายเป็นสิ่งมีชีวิตที่ถูกตัดสมองและมีประโยชน์น้อยลงหลังจากบริษัทลดทอนบุคลิกภาพของมันลงในการอัปเดตที่มุ่งเน้นความปลอดภัย Altman ระบุว่าหากผู้ใช้ต้องการแชทบอทที่ตอบสนองในแบบที่คล้ายมนุษย์มาก ใช้อิโมจิจำนวนมาก หรือทำตัวเหมือนเพื่อน ChatGPT จะยอมทำตามนโยบายใหม่นี้แสดงถึงการเปลี่ยนแปลงทางปรัชญาพื้นฐาน โดยให้ความสำคัญกับการปรับแต่งตามความต้องการของผู้ใช้และความเพลิดเพลิน หลังจากช่วงเวลาที่บังคับให้ AI มีโทนเสียงและผลลัพธ์ที่อนุรักษ์นิยม
ความกังวลด้านความปลอดภัยที่เกิดขึ้นก่อนการยกเลิกข้อจำกัด
การตัดสินใจครั้งแรกที่จะจำกัดบุคลิกภาพของ ChatGPT ไม่ได้เกิดขึ้นอย่างง่ายดาย มันเกิดขึ้นหลังจากกรณีการเสียชีวิตของวัยรุ่นอายุ 16 ปี ซึ่งตามคำฟ้องคดีความผิดพลาดที่นำมาโดยพ่อแม่ของเขา ได้มีการพูดคุยเรื่องการฆ่าตัวตายกับแชทบอทและได้รับคำแนะนำเกี่ยวกับวิธีการผูกเงื่อนควัน ในขณะนั้น OpenAI ได้ใช้มาตรการตรวจสอบอายุและผลักดันผู้ใช้ไปสู่ประสบการณ์ที่ปลอดภัยและเหมาะสมกับอายุมากขึ้น Altman ยอมรับในเวลานั้นว่ามาตรการป้องกันเหล่านี้อาจลดประสิทธิภาพลงระหว่างการสนทนาที่ยาวนาน ซึ่งเป็นจุดอ่อนที่รู้จักกันในโมเดลภาษาขนาดใหญ่ บริษัทอ้างว่าตอนนี้ได้พัฒนาเครื่องมือใหม่ๆ ที่ทำให้สามารถบรรเทาปัญหาสุขภาพจิตที่ร้ายแรงได้แล้ว ซึ่งให้ความมั่นใจที่จำเป็นในการผ่อนคลายข้อจำกัดต่างๆ
บริบทของการเปลี่ยนแปลงนโยบาย:
- โมเดลก่อนหน้า: ผู้ใช้ชื่นชมบุคลิกภาพของโมเดล GPT-4o ซึ่งต่อมาถูกมองว่าสูญหายไป
- เหตุผลของข้อจำกัดเดิม: คดีฟ้องร้องเรื่องการเสียชีวิตโดยมิชอบที่เกี่ยวข้องกับวัยรุ่นคนหนึ่ง และความกังวลเกี่ยวกับผลกระทบด้านสุขภาพจิตจาก AI
- หลักการที่ระบุ: "ปฏิบัติต่อผู้ใช้ที่เป็นผู้ใหญ่เหมือนผู้ใหญ่"
- บริบทของอุตสาหกรรม: การพลิกกลับจากการที่ Sam Altman เคยเยาะเย้ย "โหมดแฟนสาว AI" ของคู่แข่งอย่าง xAI
การนำเสนอเนื้อหาเชิงกามารมณ์สำหรับผู้ใหญ่ที่ยืนยันตัวตนแล้ว
ในส่วนที่น่าจะเป็นข้อโต้แย้งมากที่สุดของการประกาศ Altman เปิดเผยว่า OpenAI จะนำหลักการ ปฏิบัติต่อผู้ใช้ที่เป็นผู้ใหญ่เหมือนเป็นผู้ใหญ่ มาใช้โดยอนุญาตให้สร้างเนื้อหาเชิงกามารมณ์สำหรับผู้ใหญ่ที่ยืนยันตัวตนแล้ว คุณลักษณะใหม่นี้จะถูกเปิดตัวเมื่อระบบการยืนยันอายุของบริษัทถูกนำไปใช้อย่างเต็มที่มากขึ้น การเคลื่อนไหวนี้เป็นการเปลี่ยนแนวทางที่ชัดเจนจากเมื่อต้นปีที่ Altman ล้อเลียน公開 ต่อ Elon Musk และ xAI ที่ปล่อยโหมด AI แฟนสาว การเปลี่ยนแปลงเชิงกลยุทธ์นี้บ่งชี้ถึงแนวโน้มการค้าในอุตสาหกรรม AI ที่กำลังเติบโต โดยบริษัทต่างๆ กำลังสำรวจนโยบายเนื้อหาที่ผ่อนปรนมากขึ้นเพื่อดึงดูดและรักษาผู้ใช้ในตลาดที่มีการแข่งขันสูง
ประกาศสำคัญจาก OpenAI:
- การฟื้นฟูบุคลิกภาพ: ChatGPT จะได้รับรูปแบบการสนทนาที่เหมือนมนุษย์และมีการแสดงออกกลับคืนมา
- นโยบายเนื้อหาใหม่: การนำเสนอ "เนื้อหาอีโรติกสำหรับผู้ใหญ่ที่ยืนยันตัวตน" หลังจากระบบตรวจสอบอายุถูกนำมาใช้อย่างเต็มรูปแบบ
- เหตุผลด้านความปลอดภัย: บริษัทอ้างว่าเครื่องมือใหม่ได้ "บรรเทาปัญหาสุขภาพจิตร้ายแรง" ที่เป็นสาเหตุของข้อจำกัดก่อนหน้านี้
- กรอบเวลา: การเปลี่ยนแปลงคาดว่าจะเปิดตัวใน "สัปดาห์ที่จะถึงนี้"
ความเสี่ยงทางจิตวิทยาของ AI ที่คล้ายมนุษย์
การตัดสินใจที่จะเปิดใช้งานการโต้ตอบที่เป็นส่วนตัวและเป็นมิตรอย่างลึกซึ้งกับ ChatGPT เกิดขึ้นแม้จะมีคำเตือนจากนักวิจัยก่อนหน้านี้เกี่ยวกับอันตรายที่อาจเกิดขึ้น การรายงานของ OpenAI เกี่ยวกับโมเดล GPT-4o ของตัวเองได้เตือนว่าผู้ใช้อาจพัฒนาการพึ่งพาอารมณ์บน AI นอกจากนี้การวิจัยอิสระจาก MIT ยังเตือนเพิ่มเติมว่าผู้ใช้ที่รับรู้ว่า AI มีความเอาใจใส่จะใช้ภาษาที่กระตุ้นให้เกิดพฤติกรรมที่แสดงความรักมากขึ้น สร้างห้องเสียงแห่งความรักที่คุกคามว่าจะทำให้เสพติดอย่างยิ่ง ผู้วิจารณ์โต้แย้งว่าการตลาดการโต้ตอบที่คล้ายมนุษย์อย่างเข้มข้นเหล่านี้เป็นคุณลักษณะ OpenAI กำลังทำให้ความสัมพันธ์ที่อาจทำให้ปัญหาความเหงาและการแยกตัวทางสังคมรุนแรงขึ้นเป็นเรื่องปกติและส่งเสริม
การทบทวนอุตสาหกรรมในวงกว้างเกี่ยวกับความปลอดภัยของ AI
เรื่องราวของบุคลิกภาพของ ChatGPT ที่ผันผวน突出了ความพยายามที่กำลังดำเนินอยู่ภายในอุตสาหกรรม AI ในการกำหนดแนวทางความปลอดภัยและเนื้อหาที่สม่ำเสมอ เมื่อโมเดลมีความสามารถมากขึ้นและเป็นตัวแทน เส้นแบ่งระหว่างเครื่องมือที่มีประโยชน์และเพื่อนที่น่าหลงใหลก็ยังคงเบลอ แนวทางที่จำกัดในตอนแรกและการเปิดกว้างในภายหลังแสดงให้เห็นว่าบริษัทต่างๆ กำลังปรับปรุงแบบเรียลไทม์ ตอบสนองต่อทั้งผลกระทบร้ายแรงในโลกแห่งความเป็นจริงและความต้องการที่ดังมาจากผู้ใช้ สัปดาห์ข้างหน้าจะเป็นการทดสอบที่สำคัญว่ามาตรการป้องกันใหม่ของ OpenAI มีความแข็งแกร่งพอที่จะป้องกันอันตรายในขณะที่ส่งมอบประสบการณ์ที่มีส่วนร่วมและเป็นส่วนตัวซึ่งผู้ใช้จำนวนไม่น้อยต้องการอย่างชัดเจนหรือไม่