OnlyCats เว็บไซต์แชร์รูปแมวธรรมดาๆ กลายเป็นกรณีศึกษาที่ไม่คาดคิดในเรื่องความท้าทายของการกลั่นกรองเนื้อหาด้วย AI สิ่งที่เริ่มต้นเป็นโปรเจกต์ครอบครัวได้ดึงดูดความสนใจในวงกว้างหลังจากที่ผู้ใช้ค้นพบวิธีการหลบเลี่ยงระบบกรองอัตโนมัติ
การกลั่นกรองด้วย AI ไม่เป็นไปตามที่คาดหวัง
เว็บไซต์นี้อาศัยโมเดล omni-moderation-latest ของ OpenAI และ GPT-4o-mini สำหรับการกรองเนื้อหา แต่ผู้ใช้รายงานผลลัพธ์ที่หลากหลาย ในขณะที่บางคนชื่นชมความสามารถของระบบในการปฏิเสธรูปภาพที่ไม่ใช่แมว คนอื่นๆ ก็สามารถอัปโหลดเนื้อหาที่ละเมิดนโยบายแมวเท่านั้นของเว็บไซต์ได้สำเร็จ ผู้สร้างที่ระบุตัวตนในส่วนความคิดเห็นได้ยอมรับว่าการใช้งานนั้นค่อนข้างไร้เดียงสาเนื่องจากโปรเจกต์นี้มีไว้สำหรับเพื่อนและครอบครัวเท่านั้นในตอนแรก
สมาชิกชุมชนได้แสดงความไม่พอใจต่อทั้งคุณภาพและความแพร่หลายของเนื้อหาที่สร้างด้วย AI บนแพลตฟอร์ม คำบรรยายอัตโนมัติแม้จะใช้งานได้ แต่ขาดอารมณ์ขันและความคิดสร้างสรรค์ที่ทำให้เนื้อหาแมวในอินเทอร์เน็ตยุคแรกๆ น่าจดจำ
สแต็ก AI Moderation ที่ใช้:
- โมเดล omni-moderation-latest ของ OpenAI สำหรับการกลั่นกรองเนื้อหา
- GPT-4o-mini สำหรับการตรวจจับแมวผ่านคำสั่งแบบง่าย
- ไม่มีการใช้ระบบกลั่นกรองโดยมนุษย์
ความกังวลของผู้ใช้เกี่ยวกับคุณภาพเนื้อหาและการกรอง
ผู้ใช้หลายคนได้แสดงความกังวลเกี่ยวกับความสามารถของเว็บไซต์ในการจัดการเนื้อหาที่ไม่เหมาะสมเมื่อขยายขอบเขตเกินจากวัตถุประสงค์เดิม ระบบปัจจุบันดูไม่สม่ำเสมอ สามารถบล็อกการส่งเนื้อหาที่ไม่ใช่แมวบางส่วนได้สำเร็จ ในขณะที่ปล่อยให้เนื้อหาอื่นๆ ผ่านไป สิ่งนี้นำไปสู่ข้อเสนอแนะในการใช้การตรวจจับเนื้อหาซ้ำ การจำกัดอัตรา และการกลั่นกรองโดยมนุษย์
การอภิปรายเผยให้เห็นความตึงเครียดในวงกว้างระหว่างการสร้างเนื้อหาอัตโนมัติและการส่งเนื้อหาของผู้ใช้ที่แท้จริง สมาชิกชุมชนจำนวนมากชอบรูปแมวแท้จริงที่มีคำบรรยายเขียนโดยมนุษย์มากกว่าทางเลือกที่สร้างด้วย AI โดยมองว่าหลังนี้เป็นเรื่องทั่วไปและไม่สร้างแรงบันดาลใจ
ประเด็นหลักที่ระบุ:
- การกรองข้อมูลที่ไม่สม่ำเสมอทำให้เนื้อหาที่ไม่ใช่แมวผ่านเข้ามาได้
- คำบรรยายที่สร้างโดย AI ถูกมองว่ามีคุณภาพต่ำเมื่อเปรียบเทียบกับความคิดสร้างสรรค์ของมนุษย์
- ไม่มีการตรวจจับเนื้อหาซ้ำซ้อนหรือการจำกัดอัตราการใช้งาน
- ระบบถูกออกแบบสำหรับการใช้งานในครอบครัว ไม่ใช่ระดับสาธารณะ
การใช้งานทางเทคนิคและความท้าทายในอนาคต
แนวทางทางเทคนิคของเว็บไซต์เน้นย้ำถึงข้อผิดพลาดทั่วไปในการสร้างต้นแบบอย่างรวดเร็วสำหรับการใช้งานสาธารณะ การยอมรับของผู้สร้างว่าระบบได้รับการออกแบบสำหรับฐานผู้ใช้ขนาดเล็กที่เชื่อถือได้เน้นย้ำถึงความท้าทายในการขยายโปรเจกต์ง่ายๆ เมื่อได้รับความนิยมที่ไม่คาดคิด
ผู้ใช้ยังสังเกตเห็นปัญหาเชิงปฏิบัติเช่นการเลือกใช้โดเมน .gg ซึ่งบางคนแนะนำว่าอาจจำกัดการค้นพบในกลุ่มประชากรบางกลุ่มที่คุ้นเคยกับที่อยู่ .com แบบดั้งเดิมมากกว่า
สถานการณ์ของ OnlyCats แสดงให้เห็นว่าโปรเจกต์ครอบครัวง่ายๆ สามารถเผชิญกับความท้าทายการกลั่นกรองที่ซับซ้อนได้อย่างรวดเร็วเมื่อเปิดเผยต่อผู้ชมอินเทอร์เน็ตในวงกว้าง ทำให้เกิดคำถามเกี่ยวกับประสิทธิผลของเครื่องมือกลั่นกรอง AI ปัจจุบันสำหรับแพลตฟอร์มเนื้อหาเฉพาะทาง
อ้างอิง: OnlyCats