การประมวลผลภาษาธรรมชาติ

Attention Sinks: กลไกที่ซ่อนอยู่ซึ่งป้องกันไม่ให้โมเดลภาษาพังทลาย

โมเดลภาษาขนาดเล็กที่ปรับแต่งอย่างละเอียดท้าทายยักษ์ใหญ่ด้วยการลดต้นทุน 5-30 เท่า

LLM แสดงประสิทธิภาพที่ไม่ดีในการทดสอบการระบุฟอนต์ ทำให้เกิดคำถามเกี่ยวกับความสามารถของโมเดล