โปรเจกต์ Rust-GPU ได้บรรลุเป้าหมายสำคัญด้วยการทำให้นักพัฒนาสามารถเขียนโค้ด GPU ด้วย Rust ที่รันได้บนหลายแพลตฟอร์มรวมถึง CUDA ของ NVIDIA, GPU ของ AMD และ Intel ผ่าน SPIR-V, Metal ของ Apple, Direct3D 12 ของ Microsoft, WebGPU สำหรับเบราว์เซอร์ และแม้กระทั่งการทำงานแบบ CPU fallback ความก้าวหน้านี้ทำให้โค้ดเบสเดียวสามารถรองรับแพลตฟอร์ม GPU หลักๆ ได้เกือบทุกตัว ซึ่งอาจจะยุติภูมิทัศน์ที่กระจัดกระจายของภาษาการเขียนโปรแกรมและ API ของ GPU
โปรเจกต์นี้ทำงานโดยการคอมไพล์โค้ด Rust ไปเป็น intermediate representations ที่แตกต่างกันขึ้นอยู่กับแพลตฟอร์มเป้าหมาย สำหรับ GPU ของ NVIDIA จะคอมไพล์ไปเป็น NVVM IR ซึ่งจากนั้นจะแปลงเป็น PTX สำหรับแพลตฟอร์มอื่นๆ จะใช้ SPIR-V เป็นรูปแบบ intermediate ที่เป็นมาตรฐาน ระบบนี้ยังใช้ประโยชน์จาก Naga ซึ่งเป็น GPU compiler translation layer ที่ให้สะพานเชื่อมระหว่าง graphics backends ที่แตกต่างกัน
แพลตฟอร์ม GPU ที่รองรับ:
- CUDA - GPU ของ NVIDIA ผ่านการคอมไพล์ NVVM IR เป็น PTX
- SPIR-V - GPU ที่เข้ากันได้กับ AMD, Intel, NVIDIA ผ่าน Vulkan
- Metal - อุปกรณ์ของ Apple (macOS, iOS)
- Direct3D 12 - ระบบ Windows
- WebGPU - แอปพลิเคชันที่ทำงานบนเบราว์เซอร์
- CPU Fallback - สภาพแวดล้อมรันไทม์ที่ไม่ใช่ GPU
ชุมชนถกเถียงเรื่อง Trade-offs ของประสิทธิภาพ
ชุมชนนักพัฒนายังคงมีความเห็นแตกแยกเกี่ยวกับว่า abstraction layers ที่ Rust-GPU นำมาใช้นั้นคุ้มค่ากับต้นทุนด้านประสิทธิภาพที่อาจเกิดขึ้นหรือไม่ โปรแกรมเมอร์ GPU ที่มีประสบการณ์หลายคนแสดงความสงสัยเกี่ยวกับการรัน production workloads ผ่าน abstraction layers หลายชั้น โดยให้เหตุผลว่าการเขียนโปรแกรม GPU ต้องการความรู้เชิงลึกเกี่ยวกับการปรับแต่งที่เฉพาะเจาะจงกับฮาร์ดแวร์เพื่อให้ได้ประสิทธิภาพสูงสุด
โดยทั่วไปผมไม่ไว้วางใจ abstractions ใดๆ ที่อยู่เหนือ GPU api เพราะจุดประสงค์ทั้งหมดคือการใช้ประโยชน์จากรายละเอียดระดับต่ำของ gpu การมองรายละเอียดเหล่านั้นเป็นเรื่องน่ารำคาญจะนำไปสู่ bugs และการสูญเสียประสิทธิภาพ เพราะแต่ละเป้าหมายมีความแตกต่างกันอย่างมีนัยสำคัญ
ความกังวลมุ่งเน้นไปที่ความซับซ้อนของ compilation pipeline ซึ่งอาจเกี่ยวข้องกับ abstraction layers ถึงหกชั้นจากโค้ด Rust เฉพาะโดเมนลงไปจนถึงฮาร์ดแวร์จริง นักวิจารณ์กังวลว่าการปรับแต่งที่สำคัญต่อประสิทธิภาพอาจสูญหายไปผ่านห่วงโซ่การแปลงนี้ โดยเฉพาะสำหรับแอปพลิเคชันที่ทุกรอบการคำนวณมีความสำคัญ
ชั้นการแยกแยะใน Rust-GPU Pipeline:
- โค้ด Rust เฉพาะโดเมน
- การแยกแยะ Backend ( rust-gpu , ash , wgpu crates )
- การแยกแยะแพลตฟอร์ม ( wgpu และอื่นๆ ที่คล้ายกัน)
- Graphics APIs ( Vulkan , OpenGL , DX12 , Metal )
- ชั้นการแยกแยะไดรเวอร์
- ระดับฮาร์ดแวร์
ภาวะที่กลืนไม่เข้าคายไม่ออกระหว่างการเข้าถึงได้กับการปรับแต่ง
ผู้สนับสนุนโปรเจกต์แย้งว่า Rust-GPU มีจุดประสงค์ที่แตกต่างจากแนวทางการเขียนโปรแกรม GPU แบบดั้งเดิม แทนที่จะแข่งขันกับโค้ด CUDA หรือ Metal ที่ปรับแต่งด้วยมือ มันมุ่งหวังที่จะทำให้การเขียนโปรแกรม GPU เป็นประชาธิปไตยโดยทำให้นักพัฒนาที่ทำงานกับ CPU เป็นหลักเข้าถึงได้ โปรเจกต์ช่วยให้ไลบรารี Rust ที่มีอยู่รันบน GPU ได้โดยไม่ต้องแก้ไข หากใช้ no_std และหลีกเลี่ยงการจัดสรรหน่วยความจำ
ข้อโต้แย้งเรื่องการเข้าถึงได้สะท้อนกับนักพัฒนาหลายคนที่พบว่าเครื่องมือการเขียนโปรแกรม GPU ปัจจุบันล้าสมัยและถูกล็อคกับผู้จำหน่าย ความสามารถในการใช้เครื่องมือ Rust ที่คุ้นเคย เช่น cargo, clippy และ rust-analyzer สำหรับการพัฒนา GPU แสดงถึงการปรับปรุงที่สำคัญในประสบการณ์นักพัฒนาเมื่อเปรียบเทียบกับภาษา shader แบบดั้งเดิม
ความท้าทายทางเทคนิคและจุดที่ยังไม่เรียบร้อย
แม้จะมีแนวคิดที่น่าสนใจ แต่ feedback จากชุมชนเน้นย้ำถึงอุปสรรคทางเทคนิคที่สำคัญหลายประการ ปัจจุบันโปรเจกต์ต้องการ Rust เวอร์ชันเฉพาะและการกำหนดค่า build ที่ซับซ้อน การ debug โค้ด GPU ผ่าน abstraction layers หลายชั้นพิสูจน์แล้วว่าท้าทายอย่างมาก และกระบวนการคอมไพล์อาจเปราะบางและยากต่อการแก้ไขปัญหา
การจัดการหน่วยความจำเป็นความซับซ้อนอีกประการหนึ่ง เนื่องจากนักพัฒนาต้องพิจารณาอย่างรอบคอบว่าเลย์เอาต์หน่วยความจำ CPU แปลงเป็นโครงสร้าง GPU อย่างไร เอกสารโปรเจกต์รับทราบข้อจำกัดเหล่านี้ โดยระบุว่ายังคงต้องมีการทำงานอย่างมากเพื่อสร้างประสบการณ์การพัฒนาที่ราบรื่นเทียบเท่ากับการเขียนโปรแกรม CPU
องค์ประกอบทางเทคนิคหลัก:
- Rust-GPU: คอมไพล์โค้ด Rust ให้เป็นรูปแบบไบนารี SPIRV
- Rust-CUDA: คอมไพล์โค้ด Rust ให้เป็น NVIDIA IR สำหรับ toolchain ของ CUDA
- Naga: ชั้นแปลงคอมไพเลอร์ GPU ที่รองรับ backend ต่างๆ ได้แก่ SPIRV, GLSL, HLSL, MSL และ WGSL
- Feature Flags:
driver-vulkan,driver-metal,driver-wgpu,force-spirv,force-native
ผลกระทบต่ออุตสาหกรรมและแนวโน้มในอนาคต
ผลกระทบในวงกว้างของการเขียนโปรแกรม GPU ข้ามแพลตฟอร์มขยายไปเกินกว่าความสะดวกของนักพัฒนาแต่ละคน สมาชิกชุมชนบางคนมองว่านี่เป็นเส้นทางที่มีศักยภาพในการทำลายการครอบงำของ CUDA ของ NVIDIA โดยการให้ทางเลือกที่เป็นกลางต่อผู้จำหน่าย อย่างไรก็ตาม คนอื่นๆ ชี้ให้เห็นว่าระบบนิเวศที่กว้างขวางของไลบรารีและเครื่องมือที่ปรับแต่งแล้วของ NVIDIA แสดงถึงคูเมืองการแข่งขันที่สำคัญซึ่งไม่สามารถจำลองแบบได้ง่ายๆ ผ่าน abstraction layers เพียงอย่างเดียว
ผู้ดูแลโปรเจกต์กำลังสำรวจการก่อตั้ง GPU working group ภายในชุมชน Rust เพื่อจัดการกับความท้าทายเหล่านี้อย่างเป็นระบบ พวกเขามองเห็นภาพในการรวมความสามารถ GPU เข้าไปในไลบรารีมาตรฐานของ Rust โดยตรง แม้ว่าเป้าหมายที่ทะเยอทะยานเช่นนี้จะเผชิญกับอุปสรรคทางเทคนิคและการเมืองที่สำคัญเนื่องจากธรรมชาติที่กระจัดกระจายของอุตสาหกรรม GPU
แม้ว่า Rust-GPU จะแสดงถึงความสำเร็จทางเทคนิคที่น่าประทับใจ แต่การนำไปใช้ในทางปฏิบัติของมันน่าจะขึ้นอยู่กับว่าความสะดวกของการพัฒนาข้ามแพลตฟอร์มจะมีค่ามากกว่าการลดประสิทธิภาพและต้นทุนความซับซ้อนสำหรับแอปพลิเคชันในโลกจริงหรือไม่
อ้างอิง: Rust running on every GPU