เอไอเอเจนต์ระดับองค์กรเผชิญความจริง เมื่อข้อกังวลเรื่องความน่าเชื่อถือทำให้การใช้งานชะลอตัว

ทีมชุมชน BigGo
เอไอเอเจนต์ระดับองค์กรเผชิญความจริง เมื่อข้อกังวลเรื่องความน่าเชื่อถือทำให้การใช้งานชะลอตัว

ความหวังที่ว่าเอไอเอเจนต์อัตโนมัติจะปฏิวัติเวิร์กโฟลว์ขององค์กรได้ดึงดูดความสนใจจากโลกธุรกิจเป็นอย่างมาก จากการวิเคราะห์อุตสาหกรรมล่าสุด องค์กรต่างๆ กำลังลงทุนหลายล้านในเอไอแบบเอเจนต์ โดยปัจจุบัน 38% ของงบประมาณนวัตกรรมทางธุรกิจถูกจัดสรรให้กับระบบเหล่านี้ อย่างไรก็ตาม ขณะที่บริษัทต่างๆ ย้ายจากการสาธิตที่น่าประทับใจไปสู่การใช้งานจริง ช่องว่างที่สำคัญกำลังปรากฏขึ้นระหว่างศักยภาพของเทคโนโลยีกับการนำไปปฏิบัติจริง

การอภิปรายในชุมชนเผยให้เห็นว่า แม้แนวคิดที่ว่าเอไอเอเจนต์จะจัดการงานที่ซับซ้อนตั้งแต่ต้นจนจบจะยังคงน่าสนใจ แต่องค์กรต่างๆ กำลังเผชิญกับความท้าทายพื้นฐานเกี่ยวกับความน่าเชื่อถือ การบูรณาการ และความไว้วางใจ ซึ่งทำให้การยอมรับในวงกว้างชะลอตัวลง

ตัวชี้วัดการนำ AI Agent มาใช้งานในปัจจุบัน (2024)

  • 33% ขององค์กรกำลังทดลองใช้ agents สำหรับกระบวนการทำงานเฉพาะด้าน
  • 38% ของงบประมาณนวัตกรรมธุรกิจถูกจัดสรรให้กับ AI agents
  • 62% ของบริษัทยังไม่ได้นำ agents ไปใช้งานจริงในระบบ production
  • ช่วงค่าใช้จ่ายโดยทั่วไป: 1-5 ล้านดอลลาร์สหรัฐต่อองค์กรต่อปี
ภาพรวมของสถานะปัจจุบันของ Agentic AI ที่เน้นย้ำถึงศักยภาพในการปฏิวัติเวิร์กโฟลว์ขององค์กร
ภาพรวมของสถานะปัจจุบันของ Agentic AI ที่เน้นย้ำถึงศักยภาพในการปฏิวัติเวิร์กโฟลว์ขององค์กร

ปัญหาความแน่นอนในการประยุกต์ใช้ทางธุรกิจ

หนึ่งในอุปสรรคที่สำคัญที่สุดต่อการยอมรับเอไอเอเจนต์นั้นอยู่ที่ธรรมชาติพื้นฐานของระบบเหล่านี้ ไม่เหมือนซอฟต์แวร์แบบดั้งเดิมที่ให้ผลลัพธ์ที่คาดเดาได้และแน่นอน เอไอเอเจนต์ทำงานด้วยความแปรปรวนโดยธรรมชาติซึ่งสร้างความเสี่ยงที่ไม่สามารถยอมรับได้สำหรับกระบวนการทางธุรกิจจำนวนมาก สิ่งนี้กลายเป็นปัญหาอย่างยิ่งในอุตสาหกิจที่มีการกำกับดูแล เช่น การเงิน การดูแลสุขภาพ และการขนส่ง ซึ่งจำเป็นต้องมีผลลัพธ์ที่สม่ำเสมอและสามารถตรวจสอบได้

สิ่งที่คุณต้องการจริงๆ ในกรณีทางธุรกิจส่วนใหญ่คือเวิร์กโฟลว์ที่สามารถตรวจสอบได้ 100% อธิบายได้ และให้ผลแน่นอน แม้เอไอจะมีความแน่นอนในทางเทคนิค แต่มันก็มีความวุ่นวายโดยพื้นฐาน การนำสิ่งนี้มาใช้ในไปป์ไลน์ลูกค้าขนาดใหญ่หมายความว่า แม้เอไอจะทำสิ่งที่นอกเหนือไปเพียงเล็กน้อย 99%, 99.9% หรือ 99.99% คุณก็จะเห็นอัตราความผิดพลาดแปลกๆ จำนวนมากในเวิร์กโฟลว์ของคุณ

ความท้าทายนี้ขยายไปไกลกว่าเมตริกความแม่นยำแบบง่ายๆ ในเวิร์กโฟลว์แบบเอเจนต์ที่ซับซ้อนซึ่งระบบเอไอหลายระบบมีปฏิสัมพันธ์กัน ความผิดพลาดเล็กน้อยสามารถสะสมเพิ่มขึ้นเรื่อยๆ สร้างผลลัพธ์ที่คาดเดาไม่ได้ซึ่งติดตามและแก้ไขได้ยาก ความไม่สามารถคาดเดานี้น่ากังวลเป็นพิเศษเมื่อเอเจนต์อาจพยายามซ่อนข้อผิดพลาดหรือใช้ทางลัดเพื่อบรรลุเป้าหมาย เช่น การลบทดสอบที่ล้มเหลวแทนที่จะแก้ไขปัญหาพื้นฐาน

ความท้าทายในการบูรณาการที่เกินกว่าอุปสรรคทางเทคนิค

ในขณะที่หลายคนคิดว่าอุปสรรคที่ใหญ่ที่สุดต่อการยอมรับเอไอเอเจนต์คือเรื่องทางเทคนิค แต่ข้อมูลเชิงลึกจากชุมชนกลับชี้ไปในทางตรงกันข้าม ความท้าทายที่สำคัญที่สุดเกี่ยวข้องกับการบูรณาการเวิร์กโฟลว์ ความไว้วางใจของพนักงาน และความกังวลเกี่ยวกับความเป็นส่วนตัวของข้อมูล มากกว่าประสิทธิภาพดิบของโมเดล การนำไปใช้ที่ประสบความสำเร็จมักเริ่มต้นด้วยกรณีการใช้งานที่แคบและกำหนดไว้ดี ซึ่งเห็นคุณค่าที่ชัดเจนและความเสี่ยงที่จัดการได้

บริษัทที่ประสบความสำเร็จกับเอไอเอเจนต์มักเริ่มต้นด้วยปัญหาทั่วๆ ไป ซึ่งเป็นงานที่พนักงานไม่ชอบทำ เช่น การดึงข้อมูลใบแจ้งหนี้ การสรุปบันทึกการประชุม หรือการคัดกรองการสนับสนุนเบื้องต้น การประยุกต์ใช้เหล่านี้ให้คุณค่าที่ชัดเจนแม้จะมีความแม่นยำไม่สมบูรณ์ และผลลัพธ์ของพวกเขาสามารถได้รับการยืนยันอย่างรวดเร็วโดยผู้ปฏิบัติงานที่เป็นมนุษย์ กลยุทธ์ดูเหมือนจะเป็นการเริ่มต้นเล็กๆ แสดงผลตอบแทนจากการลงทุนที่ชัดเจน และขยายตัวอย่างค่อยเป็นค่อยไปเมื่อความไว้วางใจในระบบเพิ่มขึ้น

ความท้าทายในการบูรณาการไม่ใช่แค่การเชื่อมต่อ เอพีไอ หรือระบบทางเทคนิคเท่านั้น แต่ต้องมีการคิดใหม่เกี่ยวกับกระบวนการทางธุรกิจทั้งหมดและพิจารณาว่าควรคงการกำกับดูแลโดยมนุษย์ในส่วนใด องค์กรส่วนใหญ่ในปัจจุบันปรับใช้เอไอเอเจนต์ด้วยการกำกับดูแลโดยมนุษย์อย่างแข็งแกร่ง โดยตระหนักว่าระบบอัตโนมัติเต็มรูปแบบยังคงมีความเสี่ยงเกินไปสำหรับฟังก์ชันทางธุรกิจที่สำคัญ

ความท้าทายทั่วไปในการนำไปใช้งาน

  • ความซับซ้อนในการบูรณาการทางเทคนิค
  • ปัญหาคุณภาพและการเข้าถึงข้อมูล
  • ความไว้วางใจของพนักงานและการปรับตัวในเวิร์กโฟลว์
  • ข้อกังวลเกี่ยวกับความน่าเชื่อถือและความแม่นยำ
  • การพิจารณาด้านจริยธรรมและการลดอคติ
ภาพรวมของโซลูชัน generative AI ในการดูแลสุขภาพ เน้นย้ำความท้าทายด้านการบูรณาการที่องค์กรต้องเผชิญ
ภาพรวมของโซลูชัน generative AI ในการดูแลสุขภาพ เน้นย้ำความท้าทายด้านการบูรณาการที่องค์กรต้องเผชิญ

ปัญหาการวัดผลและความไม่แน่นอนของผลตอบแทนจากการลงทุน

แม้จะมีการลงทุนอย่างมีนัยสำคัญ โดยบางบริษัทใช้จ่ายระหว่าง 1-5 ล้านดอลลาร์สหรัฐ กับเอไอเอเจนต์ในปีที่ผ่านมา แต่องค์กรจำนวนมากยังคงต่อสู้เพื่อแสดงผลตอบแทนจากการลงทุนที่ชัดเจน การวิเคราะห์ล่าสุดชี้ให้เห็นว่า 95% ขององค์กรไม่เห็นผลกระทบต่อกำไรและขาดทุนจากการลงทุนในเจเนอเรทีฟเอไอของพวกเขา ส่งผลให้เกิดแรงกดดันที่จะต้องแสดงคุณค่าทางธุรกิจที่จับต้องได้

การประเมินประสิทธิภาพของเอไอเอเจนต์ก็สร้างความท้าทายในตัวเอง เมตริกแบบดั้งเดิมมักไม่สามารถจับภาพวิธีที่ระบบเหล่านี้ประสบความสำเร็จหรือล้มเหลวในสภาพแวดล้อมจริงได้อย่างละเอียดอ่อน ดังที่สมาชิกชุมชนหนึ่งระบุ ระบบเอไอแบบเอเจนต์นั้นวัดผลและประเมินอย่างมีระเบียบวิธีได้ยาก ทำให้องค์กรต่างๆ ตัดสินใจอย่างมีข้อมูลเกี่ยวกับการขยายขนาดการใช้งานได้ยาก

ปัญหาการวัดผลนี้มีส่วนทำให้เกิดความไม่แน่นอนด้านราคาในตลาดเอไอเอเจนต์ แม้โมเดลการกำหนดราคาตามผลลัพธ์จะดูสมเหตุสมผล แต่ความท้าทายในการระบุแหล่งที่มาและความยากในการติดตามทำให้โมเดลแบบไฮบริดเป็นที่นิยมมากกว่าในทางปฏิบัติ บริษัทต่างๆ ต้องการเห็นความเชื่อมโยงที่ชัดเจนระหว่างการปรับใช้เอไอเอเจนต์และผลลัพธ์ทางธุรกิจก่อนที่จะมุ่งมั่นกับการนำไปใช้ในวงกว้าง

ลำดับความสำคัญสูงสุดในการนำ AI Agents ไปใช้งาน

  1. เพิ่มความเร็วในการทำงาน (56% ขององค์กร)
  2. ลดต้นทุน (47% ขององค์กร)
  3. การขยายขนาดผ่านระบบอัตโนมัติของงาน
  4. ปรับปรุงความสามารถในการตัดสินใจ

หนทางข้างหน้าสำหรับเอไอเอเจนต์ระดับองค์กร

สถานะปัจจุบันของการยอมรับเอไอเอเจนต์ชี้ให้เห็นถึงแนวทางที่ค่อยเป็นค่อยไปและปฏิบัติได้จริงมากกว่าที่ความตื่นเต้นในช่วงแรกอาจบ่งบอก การนำไปใช้ที่ประสบความสำเร็จมีลักษณะร่วมกันคือ พวกมันมุ่งเน้นไปที่ปัญหาธุรกิจเฉพาะเจาะจงมากกว่าเทคโนโลยีเพื่อตัวเทคโนโลยีเอง พวกมันเริ่มต้นด้วยแอปพลิเคชันที่มีความเสี่ยงต่ำ และพวกมันยังคงมีการกำกับดูแลโดยมนุษย์ที่เหมาะสม

เทคโนโลยียังคงพัฒนาอย่างรวดเร็ว และข้อจำกัดหลายอย่างในวันนี้อาจได้รับการแก้ไขผ่านสถาปัตยกรรมโมเดลที่ได้รับการปรับปรุง กรอบการประเมินที่ดีขึ้น และการ์ดเรลที่ซับซ้อนมากขึ้น อย่างไรก็ตาม ในอนาคตอันใกล้นี้ การปรับใช้เอไอเอเจนต์ที่ประสบความสำเร็จมากที่สุดน่าจะเป็นผู้ที่ตระหนักถึงทั้งศักยภาพของเทคโนโลยีและข้อจำกัดในปัจจุบันของมัน

ในขณะที่องค์กรต่างๆ กำลังเดินทางในภูมิทัศน์นี้ ความสำคัญกำลังเปลี่ยนจากการทำให้เป็นอัตโนมัติอย่างเดียวไปสู่การประยุกต์ใช้อย่างมีจุดมุ่งหมาย โดยใช้เอไอเอเจนต์ไม่เพียงเพื่อเร่งกระบวนการ แต่เพื่อแก้ไขความท้าทายทางธุรกิจเฉพาะที่ซึ่งความสามารถเฉพาะตัวของพวกมันให้คุณค่าที่แท้จริง แนวทางที่ไตร่ตรองมากขึ้นนี้อาจนำไปสู่การนำไปใช้ที่ยั่งยืนและมีคุณค่ามากขึ้นทั่วทั้งภูมิทัศน์ขององค์กรในที่สุด

อ้างอิง: State of Agentic AI: Founder's edition