ทำไมไม่มีใครสามารถโคลน CUDA ของ NVIDIA ได้สำเร็จ ทั้งที่มีเงินเดิมพันหลายพันล้าน

การแข่งขันในการสร้าง distributed GPU runtimes ได้ทวีความรุนแรงขึ้น เนื่องจากความต้องการในการประมวลผลข้อมูลเกินกว่าที่เซิร์ฟเวอร์ GPU เครื่องเดียวจะรับมือได้ ในขณะที่บริษัทต่างๆ เทเงินหลายพันล้านเพื่อแข่งขันกับการครอบงำของ NVIDIA คำถามที่น่าสนใจก็เกิดขึ้นจากชุมชนนักพัฒนา: ทำไมไม่มีใครสามารถจำลองฟังก์ชันการทำงานของ CUDA ได้สำเร็จ ทั้งที่มีแรงจูงใจทางการเงินมหาศาล?

ความท้าทายที่แท้จริงไม่ใช่แค่ความซับซ้อนทางเทคนิค

ภูมิทัศน์ของ distributed computing เผยให้เห็นว่าทำไม CUDA ยังคงไม่มีใครเทียบได้ เมื่อชุดข้อมูลขยายใหญ่เกินขีดจำกัดหน่วยความจำของ GPU คอขวดด้านประสิทธิภาพจะเปลี่ยนจากพลังการคำนวณดิบไปเป็นประสิทธิภาพการเคลื่อนย้ายข้อมูล สิ่งนี้สร้างความท้าทายของระบบนิเวศที่ซับซ้อนซึ่งไปไกลกว่าการคัดลอก API เพียงอย่างเดียว

การอภิปรายในชุมชนเน้นย้ำว่าจุดแข็งของ CUDA ไม่ได้อยู่ที่องค์ประกอบใดองค์ประกอบหนึ่ง แต่อยู่ที่ระบบนิเวศที่ครอบคลุมซึ่งสร้างขึ้นมากว่าสองทศวรรษ แพลตฟอร์มนี้ครอบคลุมภาษาโปรแกรมหลายภาษารวมถึง C, C++, Fortran และ Python พร้อมด้วยการรวมเข้ากับ IDE เครื่องมือดีบักแบบกราฟิก และการสนับสนุนไลบรารีอย่างครอบคลุม สิ่งนี้แสดงถึงสิ่งที่ผู้เชี่ยวชาญในอุตสาหกรรมเรียกว่าความรู้เชิงสถาบัน - ภูมิปญญาที่สะสมมาจากการสนับสนุนความเข้ากันได้แบบย้อนหลังในขณะเดียวกันก็ผลักดันนวัตกรรมล้ำสมัย

หมายเหตุ: API (Application Programming Interface) หมายถึงชุดของโปรโตคอลและเครื่องมือสำหรับการสร้างแอปพลิเคชันซอฟต์แวร์

ส่วนประกอบของระบบนิเวศ CUDA

การล็อกอินของระบบนิเวศไปไกลกว่าซอฟต์แวร์

ความท้าทายขยายไปถึงการรวมฮาร์ดแวร์และเครื่องมือสำหรับนักพัฒนา ไลบรารี CUDA-X ของ NVIDIA รวมถึง RAPIDS สำหรับการประมวลผลข้อมูลและเครื่องมือเฉพาะสำหรับงาน AI สร้างสแต็กที่รวมแนวตั้งซึ่งคู่แข่งพยายามดิ้นรนเพื่อให้เทียบเท่า ความพยายามของ AMD ด้วย HIP และ ROCm แม้จะมีความสามารถทางเทคนิค แต่ยังคงล้าหลังอย่างมากในการใช้งานจริงและประสบการณ์ของนักพัฒนา

น่าสนใจที่โคลน CUDA ที่ประสบความสำเร็จอย่าง ZLUDA ได้เกิดขึ้น ซึ่งพิสูจน์ความเป็นไปได้ทางเทคนิค อย่างไรก็ตาม โครงการเหล่านี้เผชิญกับความไม่แน่นอนทางกฎหมายและขาดระบบนิเวศเครื่องมือที่ครอบคลุมซึ่งทำให้ CUDA น่าสนใจสำหรับนักวิจัยและองค์กร AMD ยังให้ทุนสนับสนุนการพัฒนา ZLUDA ก่อนที่จะยุติการสนับสนุนในที่สุด ซึ่งเน้นย้ำถึงพลวัตทางธุรกิจที่ซับซ้อนที่เกี่ยวข้อง

การเปรียบเทียบทางเลือกแทน CUDA

เศรษฐศาสตร์ของการไล่ตาม

ความเป็นจริงทางการเงินสร้างวงจรที่ท้าทายสำหรับคู่แข่ง การจำลองฟังก์ชันการทำงานของ CUDA ต้องการการลงทุนมหาศาลในการพัฒนาซอฟต์แวร์ แต่บริษัทที่บรรลุความเท่าเทียมกันด้านฟีเจอร์มักจะแข่งขันด้วยราคามากกว่าการสั่งการกำไรส่วนเกิน แรงกดดันทางเศรษฐกิจนี้อธิบายว่าทำไมผู้จำหน่ายฮาร์ดแวร์มักจะเลือกควบคุมส่วนแบ่งตลาดที่เล็กกว่ามากกว่าการเข้าร่วมการแข่งขันโดยตรง

มันยากในแง่ที่ว่าต้องการรสนิยมที่ดีมากเกี่ยวกับภาษาโปรแกรม ซึ่งต้องการการฟังลูกค้าอย่างแท้จริง และนั่นต้องการคนจำนวนมากที่มีทักษะ

ความท้าทายของ distributed runtime ขยายความยากลำบากเหล่านี้ เมื่อภาระงานขยายข้ามหลายโหนด ความซับซ้อนของการประสานงานการเคลื่อนย้ายข้อมูล การจัดการหน่วยความจำ และการทนต่อความผิดพลาดเพิ่มขึ้นแบบทวีคูณ การลงทุนของ NVIDIA ในเทคโนโลยีอย่าง UCX สำหรับการสื่อสารและลำดับชั้นหน่วยความจำขั้นสูงแสดงถึงการปรับปรุงหลายปีที่คู่แข่งต้องหาทางข้ามไป

แนวทางทางเลือกได้รับแรงผลักดัน

แม้จะมีการครอบงำของ CUDA แนวทางทางเลือกก็กำลังเกิดขึ้น โซลูชันที่ใช้ Vulkan บรรลุประสิทธิภาพประมาณ 95% ของ CUDA สำหรับงานหลายประเภท ในขณะที่ภาษาใหม่อย่าง Rust เสนอประสบการณ์การพัฒนาที่น่าสนใจสำหรับการเขียนโปรแกรม GPU โครงการอย่าง rust-gpu และโซลูชันที่ไม่ขึ้นกับผู้จำหน่ายโดยใช้ SPIR-V intermediate representation ให้เส้นทางรอบการล็อกอินระบบนิเวศของ NVIDIA

ข้อมูลเชิงลึกสำคัญจากการอภิปรายในชุมชนคือทางเลือกของ CUDA ที่ประสบความสำเร็จต้องมุ่งเน้นที่ประสบการณ์ของนักพัฒนาและความสมบูรณ์ของระบบนิเวศ ไม่ใช่แค่ประสิทธิภาพทางเทคนิค สิ่งนี้รวมถึงทุกอย่างตั้งแต่เครื่องมือดีบักและการรวมเข้ากับ IDE ไปจนถึงเอกสารที่ครอบคลุมและการสนับสนุนชุมชน

เมื่อ distributed GPU computing กลายเป็นสิ่งสำคัญมากขึ้นสำหรับงาน AI และการประมวลผลข้อมูล การแข่งขันในการสร้างทางเลือกของ CUDA ที่ใช้งานได้ยังคงดำเนินต่อไป อย่างไรก็ตาม ความท้าทายยังคงเป็นเรื่องของกลยุทธ์ทางธุรกิจและการพัฒนาระบบนิเวศมากพอๆ กับนวัตกรรมทางเทคนิค

อ้างอิง: The Race to Build a Distributed GPU Runtime