AI สร้าง 'ภาพความยากจน' ปลุกโต้เถียง: ผิดที่เครื่องมือหรือผู้ใช้?

การถกเถียงที่ร้อนแรงกำลังเกิดขึ้นในชุมชนเทคโนโลยีและมนุษยธรรมเกี่ยวกับการเกิดขึ้นของ 'ภาพความยากจน' ที่สร้างโดย AI — ภาพแห่งความทุกข์ยากแบบเหมารวมและแบ่งแยกเชื้อชาติที่ถูกสร้างขึ้นโดยปัญญาประดิษฐ์ ในขณะที่หลายฝ่ายประณามเทคโนโลยีนี้ แต่การอภิปรายที่ลึกซึ้งยิ่งขึ้นกำลังเกิดขึ้นเกี่ยวกับว่าปัญหาที่แท้จริงอยู่ที่ตัวเครื่องมือเอง หรือมาจากอคติที่มีมาอย่างยาวนานขององค์กรที่ใช้มัน

ความขัดแย้งหลัก: AI คือปัญหาหรือแค่ผู้ส่งสาร?

ข้อโต้แย้งหลักที่แบ่งแยกชุมชนคือ การพิจารณาว่า generative AI เป็นสาเหตุรากเหง้าของภาพอันตราย หรือเป็นเพียงกลไกการส่งต่อที่ใหม่และมีประสิทธิภาพมากขึ้นสำหรับอคติที่มีอยู่เดิม ผู้วิจารณ์เทคโนโลยีมองว่ามันเป็นตัวเร่งที่อันตรายซึ่งต้องถูกควบคุม ในขณะที่บางฝ่ายแย้งว่าการห้ามใช้เครื่องมือนี้จะเป็นเพียงการแก้ปัญหาที่ผิวเผินและไม่สนใจประเด็นพื้นฐาน

ปัญหาอยู่ที่เครื่องมือ การเสนอแนะเป็นอื่นคือการเสนอแนะว่าทุกคนควรสามารถซื้ออาวุธนิวเคลียร์ซึ่งโดยตัวมันเองไม่ได้ทำอะไรเลย ผู้กระทำผิดสามารถใช้ประโยชน์ได้จากสิ่งที่存在อยู่เท่านั้น

มุมมองนี้มองว่า AI เป็นเครื่องมือที่มีอันตรายโดยเนื้อแท้ที่ขยายผลเสีย อย่างไรก็ตาม มุมมองนี้ถูกโต้แย้งอย่างหนักโดยผู้ที่เชื่อว่าควรโฟกัสที่ผู้ใช้และแรงจูงใจของพวกเขา ไม่ใช่ที่ตัวเทคโนโลยีเอง พวกเขาแย้งว่าความต้องการสร้างภาพที่ลดทอนความเป็นมนุษย์มีมานานก่อนหน้า AI แล้ว โดยมีรากฐานมาจากแนวคิดแบบอาณานิคมภายในภาคส่วนมนุษยธรรมที่ให้ความสำคัญกับความรู้สึกของผู้บริจาคตะวันตกมากกว่าศักดิ์ศรีของบุคคลในภาพ

ผลกระทบในทางปฏิบัติของการวินิจฉัยปัญหาแบบผิดๆ

การอภิปรายเปลี่ยนไปสู่ผลกระทบในโลกจริงของการที่เราตีกรอบปัญหานี้ หากทางออกคือการห้ามใช้ AI ในงานสื่อสารด้านมนุษยธรรมแบบเหมารวม หลายฝ่ายกังวลว่ามันจะสร้างความเสียหายให้กับองค์กรขนาดเล็กในท้องถิ่นอย่างไม่เป็นสัดส่วน สำหรับกลุ่มเหล่านี้ AI ไม่ใช่เครื่องมือสำหรับสร้างภาพความยากจน แต่เป็นข้อได้เปรียบทางยุทธศาสตร์ในการต่อสู้เพื่อความอยู่รอด พวกเขามักขาดทรัพยากรสำหรับทีมสื่อสารเต็มรูปแบบและช่างภาพมืออาชีพ ทำให้ AI เป็นวิธีที่คุ้มค่าในการแข่งขันเพื่อให้เป็นที่เห็นในโลกที่ขับเคลื่อนโดยอัลกอริทึมซึ่งต้องการเนื้อหาภาพอย่างต่อเนื่อง

ยิ่งไปกว่านั้น องค์กรที่มีจริยธรรมบางแห่งกำลังใช้ AI เพื่อแก้ปัญหาทางจริยธรรมที่ลึกซึ้ง เช่น การสร้างภาพบุคคลที่มีศักดิ์ศรีสำหรับเรื่องราวต่างๆ โดยไม่เอาเปรียบการยินยอมของบุคคลจริง การห้ามใช้แบบกว้างๆ จะทำให้กรณีใช้ประโยชน์ในทางบวกเหล่านี้สูญเสียเครื่องมือ ในขณะที่ปล่อยให้องค์กรขนาดใหญ่และร่ำรวยสามารถกลับไปใช้แนวปฏิบัติอันตรายแบบเดิมๆ โดยใช้การถ่ายภาพแบบดั้งเดิมได้ สิ่งนี้เน้นย้ำถึงความตึงเครียดที่สำคัญในการอภิปราย: ความเสี่ยงของการลงโทษนวัตกรรมทางจริยธรรม ในขณะที่ล้มเหลวในการแก้ไขปัญหาวัฒนธรรมหลักในองค์กรช่วยเหลือขนาดใหญ่

มองลึกถึงปัญหาระบบและความรับผิดชอบ

ผู้แสดงความคิดเห็นชี้ให้เห็นว่า กลุ่มอุตสาหกรรม NGO ได้เผยแพร่ภาพเหมารวมอันตรายเหล่านี้มาเป็นเวลานาน โดยไม่คำนึงถึงเทคโนโลยีที่ใช้ แบบจำลองธุรกิจขององค์กรขนาดใหญ่หลายแห่งอาศัยการแสดงความทุกข์ยากเพื่อขับเคลื่อนการบริจาค สร้างความต้องการเชิงระบบสำหรับภาพดังกล่าว สิ่งนี้ชี้ให้เห็นว่าปัญหาไม่ได้อยู่ที่เทคโนโลยี แต่เป็นเรื่องโครงสร้าง ซึ่งเชื่อมโยงกับวิธีการที่เงินช่วยเหลือถูกจัดหาและถูกทำให้ชอบธรรมต่อผู้บริจาคใน Global North

การสนทนาเผยให้เห็นถึงความไม่เห็นด้วยขั้นพื้นฐานเกี่ยวกับธรรมชาติของทางออก บางฝ่ายสนับสนุนการแก้ไขทางเทคนิคและการกลั่นกรองเนื้อหา ในขณะที่บางฝ่ายยืนยันว่ามีเพียงการเปลี่ยนแปลงทางวัฒนธรรมอย่างลึกซึ้งภายในภาคส่วนมนุษยธรรม — การท้าทายมรดกทางอาณานิคมที่ลึกซึ้งและยังไม่ได้รับการแก้ไข — เท่านั้นที่จะสร้างการเปลี่ยนแปลงที่ยั่งยืน สิ่งนี้ปรับกรอบการอภิปรายจาก เราควรใช้ AI หรือไม่? เป็น เราจะท้าทายระบบที่ต้องการภาพเหล่านี้ตั้งแต่แรกได้อย่างไร?

การแลกเปลี่ยนที่หลีกเลี่ยงไม่ได้ในโลกที่เชื่อมต่อกัน

การอภิปรายขยายออกไปสู่การถกเถียงเชิงปรัชญาที่กว้างขึ้นเกี่ยวกับการแลกเปลี่ยนโดยเนื้อแท้ในการสร้างระบบการสื่อสารสมัยใหม่ ผู้แสดงความคิดเห็นท่านหนึ่งนำเสนอสามัญลักษณ์ที่ชัดเจน โดยแย้งว่าเราสามารถมีคุณสมบัติที่น่าพึงประสงค์สามอย่างจากสองอย่างเท่านั้นในระบบนิเวศดิจิทัลของเรา ได้แก่ แพลตฟอร์มแบบกระจายศูนย์ การมีส่วนร่วมแบบไม่เปิดเผยตัวตน และเนื้อหาที่น่าเชื่อถือซึ่งปลอดจากผู้กระทำผิด กรอบความคิดนี้ชี้ให้เห็นว่าปัญหาเกี่ยวกับเนื้อหาที่สร้างโดย AI ไม่ได้เป็นเรื่องพิเศษ แต่เป็นส่วนหนึ่งของปริศนาที่ใหญ่กว่าและแก้ไม่ได้เกี่ยวกับการกำกับดูแลออนไลน์ เราถูกทิ้งให้เลือกระหว่างสภาพแวดล้อมดิจิทัลแห่งสแปมที่ใช้การไม่ได้, สวนล้อมของบริษัทที่รวมศูนย์, หรือสวนล้อมของรัฐบาลที่ยืนยันตัวตน มุมมองนี้บอกเป็นนัยว่าอาจไม่มีทางออกทางเทคนิคที่สมบูรณ์แบบสำหรับความท้าทายทางจริยธรรมที่เกิดจาก AI

การถกเถียงเกี่ยวกับ 'ภาพความยากจน' ที่สร้างโดย AI ยังห่างไกลจากข้อสรุป มันได้วิวัฒนาการจากการประณามเทคโนโลยีใหม่ๆ อย่างง่ายดาย สู่การตรวจสอบอย่างซับซ้อนเกี่ยวกับอคติเชิงระบบ ผลกระทบในทางปฏิบัติสำหรับองค์กรขนาดเล็ก และการแลกเปลี่ยนพื้นฐานที่จำเป็นในยุคดิจิทัลของเรา ดังที่ผู้แสดงความคิดเห็นท่านหนึ่งระบุ งานที่แท้จริงข้างหน้านี้ไม่ใช่เกี่ยวกับการควบคุมเครื่องมือ แต่เกี่ยวกับการท้าทายวัฒนธรรมการทำงานที่ให้ไฟเขียวกับแคมเปญเหล่านี้ตั้งแต่แรก

อ้างอิง: How do we stop AI-generated ‘poverty porn’ fake images?