ไลบรารี TypeScript ชื่อ Pickaxe เผชิญปัญหาการสตรีมมิงและความเสถียรแม้จะมีสถาปัตยกรรม AI Agent ที่น่าสนใจ

ทีมชุมชน BigGo
ไลบรารี TypeScript ชื่อ Pickaxe เผชิญปัญหาการสตรีมมิงและความเสถียรแม้จะมีสถาปัตยกรรม AI Agent ที่น่าสนใจ

Pickaxe ไลบรารี TypeScript ตัวใหม่สำหรับสร้าง AI agents ที่ขยายตัวได้ ได้รับความสนใจอย่างมากในชุมชนนักพัฒนา ซึ่งสร้างขึ้นบนระบบคิวงานที่ทนทานของ Hatchet ไลบรารีนี้สัญญาว่าจะจัดการกับการประสานงานที่ซับซ้อนในขณะที่ให้นักพัฒนาโฟกัสไปที่ business logic อย่างไรก็ตาม ผู้ใช้งานรุ่นแรกกำลังตั้งคำถามสำคัญเกี่ยวกับฟีเจอร์ที่ขาดหายไปและความกังวลเรื่องความเสถียรพื้นฐาน

คุณสมบัติหลัก

  • การทำงานแบบยั่งยืนพร้อมจุดตรวจสอบอัตโนมัติ
  • สร้างบนระบบคิวงาน Hatchet
  • สถาปัตยกรรมเอเจนต์แบบฟังก์ชัน
  • รองรับ TypeScript พร้อมการตรวจสอบสคีมา
  • การทำงานแบบกระจายข้ามเครื่องหลายเครื่อง

การสตรีมมิงแบบ Real-Time ยังคงเป็นช่องว่างสำคัญ

หนึ่งในปัญหาเร่งด่วนที่สุดที่นักพัฒนากำลังพูดถึงคือการขาดความสามารถในการสตรีมมิงแบบ real-time ข้อจำกัดนี้สร้างปัญหาโดยเฉพาะสำหรับ coding assistants และแอปพลิเคชัน AI แบบโต้ตอบที่ผู้ใช้คาดหวังการตอบสนองทันที ทีมพัฒนายอมรับช่องว่างนี้และสัญญาว่าจะมีการสตรีมมิงจาก agent ไปยัง client ภายในไม่กี่สัปดาห์ แต่ฟีเจอร์นี้ยังไม่พร้อมสำหรับการใช้งานจริง

ความท้าทายด้านการสตรีมมิงจะซับซ้อนมากขึ้นในระบบแบบกระจายที่ผู้ใช้อาจรีโหลดหน้าเว็บหรือกลับมาหลังจากช่วงเวลานาน การรักษาการเชื่อมต่อแบบถาวรและสตรีมข้อความที่สามารถกลับมาทำต่อได้ในหลายเครื่องต้องใช้โครงสร้างพื้นฐานที่ซับซ้อนซึ่ง Pickaxe ยังแก้ไขไม่สมบูรณ์

ความกังวลเรื่องความยืดหยุ่นในการรวม LLM

นักพัฒนายังตั้งคำถามเกี่ยวกับแนวทางของ Pickaxe ในการรวม language model ไลบรารีนี้รวม AI SDK ของ Vercel สำหรับการเรียก LLM แต่สิ่งนี้สร้างข้อจำกัดสำหรับทีมที่ต้องการใช้ฟีเจอร์ล้ำสมัยจากผู้ให้บริการ AI นักพัฒนาบางคนชอบที่จะควบคุมการเลือกโมเดล การสร้างพรอมต์ และการจัดการประวัติข้อความโดยตรงมากกว่าการพึ่งพาโซลูชันที่รวมมาให้

เนื่องจากผู้ให้บริการ AI พัฒนา APIs ของพวกเขาอย่างรวดเร็ว ฟีเจอร์หลายอย่างจึงมาถึง AI SDK ช้ากว่าหลายสัปดาห์หรือหลายเดือน

ทีมกำลังพิจารณาโซลูชันเช่นการ overload default language model ด้วย maps สำหรับกรณีการใช้งานที่แตกต่างกันหรือให้นักพัฒนา eject tool picker สำหรับการใช้งานแบบกำหนดเอง

ข้อจำกัดปัจจุบัน

  • ไม่มีการสตรีมมิ่งแบบเรียลไทม์ (จะมาในอีกไม่กี่สัปดาห์)
  • ความยืดหยุ่นในการผสานรวม LLM มีจำกัด
  • ความกังวลเรื่องเสถียรภาพของแพลตฟอร์ม Hatchet ที่เป็นพื้นฐาน
  • ความสับสนในชื่อกับแพลตฟอร์ม Pickaxe.co ที่มีอยู่แล้ว
  • AI SDK ที่มาพร้อมกันอาจล้าหลังกว่า API ของผู้ให้บริการ

คำถามเรื่องความเสถียรพื้นฐาน

สิ่งที่น่ากังวลที่สุดคือปัญหาความเสถียรของ Hatchet ซึ่งเป็นเอนจิ้นการทำงานพื้นฐานที่ขับเคลื่อน Pickaxe ผู้ใช้งานมายาวนานได้แสดงความผิดหวังเกี่ยวกับความเสถียรและประสิทธิภาพของแพลตฟอร์ม โดยบางคนกล่าวอย่างตรงไปตรงมาว่า Hatchet ไม่เสถียร สิ่งนี้ทำให้เกิดคำถามเกี่ยวกับการสร้างระบบการผลิตบนพื้นฐานที่อาจไม่พร้อมสำหรับการใช้งานระดับองค์กร

ทีม Hatchet ยอมรับความกังวลเหล่านี้และอธิบายว่าพวกเขากำลังทำงานเพื่อปรับปรุงกรณีการใช้งาน multi-task และ concurrency พวกเขาอ้างว่า single-task FIFO workloads สามารถจัดการได้มากกว่า 10,000 operations ต่อวินาที แต่ประสิทธิภาพในโลกแห่งความเป็นจริงกับ agent workflows ที่ซับซ้อนอาจแตกต่างกันอย่างมาก

การอ้างสิทธิ์ด้านประสิทธิภาพ

  • Single-task FIFO: มากกว่า 10,000 การดำเนินการต่อวินาที
  • รองรับงานหลายแสนงานต่อการดำเนินการ
  • ประมวลผลงานหลายพันล้านงานต่อเดือน
  • ประสิทธิภาพที่ขึ้นอยู่กับ I/O พร้อมการกำหนดค่าดิสก์ที่เหมาะสม

ความสับสนเรื่องชื่อเพิ่มอุปสรรคการยอมรับ

นอกจากความท้าทายเหล่านี้แล้ว ไลบรารีนี้ยังใช้ชื่อเดียวกันกับ Pickaxe.co ซึ่งเป็นแพลตฟอร์ม low-code ที่มีชื่อเสียงสำหรับสร้าง chatbots ที่ดำเนินงานมานานกว่าสองปี ความขัดแย้งเรื่องชื่อนี้อาจสร้างความสับสนในตลาดและทำให้นักพัฒนาหาเอกสารและทรัพยากรที่เกี่ยวข้องได้ยากขึ้น

แม้จะมีความท้าทายเหล่านี้ แต่สถาปัตยกรรมหลักของ Pickaxe แสดงให้เห็นถึงความมีแนวโน้ม โมเดล durable execution ที่มี automatic checkpoints สามารถแก้ปัญหาจริงในการพัฒนา AI agent โดยเฉพาะสำหรับ workflows ที่ทำงานนานและต้องรอดพ้นจากความล้มเหลวของฮาร์ดแวร์ แนวทางแบบ function-based ของไลบรารียังดึงดูดนักพัฒนาที่ต้องการควบคุม agent implementations ของพวกเขามากขึ้นเมื่อเปรียบเทียบกับเฟรมเวิร์กที่หนักหน่วง

ความสำเร็จของ Pickaxe น่าจะขึ้นอยู่กับความเร็วที่ทีมสามารถแก้ไขข้อจำกัดด้านการสตรีมมิง ปรับปรุงความเสถียรของแพลตฟอร์มพื้นฐาน และให้ความยืดหยุ่นมากขึ้นสำหรับกรณีการใช้งานขั้นสูง ในขณะนี้ นักพัฒนาควรประเมินการแลกเปลี่ยนเหล่านี้อย่างรอบคอบก่อนที่จะมุ่งมั่นใช้ Pickaxe สำหรับแอปพลิเคชันการผลิต

อ้างอิง: Pickaxe: A Typescript library for building AI agents that scale