ทนายความ California คนหนึ่งถูกสั่งให้จ่ายเงิน 10,000 ดอลลาร์สหรัฐฯ หลังจากส่งคำร้องอุทธรณ์ที่มีคำอ้างอิงคดีปลอม 21 รายการที่สร้างขึ้นโดย ChatGPT คดีนี้เน้นย้ำถึงความกังวลที่เพิ่มขึ้นเกี่ยวกับการใช้ปัญญาประดิษฐ์ในทางที่ผิดในสภาพแวดล้อมทางวิชาชีพ และทำให้เกิดคำถามเกี่ยวกับความรับผิดชอบในวิชาชีพกฎหมาย
ทนายความ Amir Mostafavi ใช้ ChatGPT เพื่อปรับปรุงเอกสารทางกฎหมายของเขาในเดือนกรกฎาคม 2023 แต่ไม่ได้ตรวจสอบเนื้อหาที่ AI สร้างขึ้นก่อนส่งมอบ ศาลอุทธรณ์เขต 2 ของ California ค้นพบว่าคำอ้างอิงคดี 21 รายการจากทั้งหมด 23 รายการในเอกสารนั้นถูกสร้างขึ้นอย่างสมบูรณ์โดยระบบ AI
รายละเอียดเพิ่มเติม:
- จำนวนเงิน: $10,000 USD (ค่าปรับที่เกี่ยวข้องกับ AI ที่สูงที่สุดโดยศาลระดับรัฐ California )
- การละเมิด: ยื่นอุทธรณ์ไร้สาระ, ละเมิดกฎของศาล, อ้างอิงคดีปลอม, เสียเวลาของศาล
- การอ้างอิงที่ปลอมแปลง: 21 จาก 23 การอ้างอิงคดีเป็นของปลอม
- วันที่เกิดเหตุ: กรกฎาคม 2023
ความรับผิดชอบทางวิชาชีพ เทียบกับ ความสะดวกสบายของ AI
ชุมชนกฎหมายมีความเห็นแตกต่างกันเกี่ยวกับวิธีการจัดการการรวม AI เข้าด้วยกันในขณะที่ยังคงรักษามาตรฐานทางวิชาชีพ การตอบสนองของ Mostafavi ต่อค่าปรับได้จุดประกายความขัดแย้งเป็นพิเศษ เนื่องจากเขาแนะนำว่าทนายความที่ใช้ AI ควรคาดหวังเหยื่อบางคน ความเสียหายบางอย่าง ซากปรักหักพังบางอย่างในช่วงระยะเปลี่ยนผ่าน
ทัศนคตินี้ได้รับการวิพากษ์วิจารณ์อย่างรุนแรงจากผู้เชี่ยวชาญด้านกฎหมายที่โต้แย้งว่าทนายความมีหน้าที่พื้นฐานในการตรวจสอบข้อมูลทั้งหมดก่อนส่งให้ศาล ความรับผิดชอบยังคงอยู่กับทนายความโดยไม่คำนึงถึงเครื่องมือที่ใช้ ไม่ว่าจะเป็นระบบ AI หรือผู้ช่วยมนุษย์
การตอบสนองด้านกฎระเบียบ:
- กำหนดเวลาของ California Judicial Council : 15 ธันวาคม 2024 สำหรับนโยบาย AI
- California Bar Association : กำลังทบทวนประมวลจริยธรรมสำหรับการใช้ AI
- แนวปฏิบัติของศาลกลาง: ค่าปรับ $31,100 USD ต่อสำนักงานกฎหมายสำหรับการสร้างข้อมูลเท็จด้วย AI
- ใบอนุญาตประกอบวิชาชีพ: ค่าปรับเกิน $1,000 USD ต้องรายงานต่อ state bar
รูปแบบที่เพิ่มขึ้นของการละเมิดกฎหมายที่เกี่ยวข้องกับ AI
ผู้เชี่ยวชาญด้านกฎหมายที่ติดตามการใช้ AI ในทางที่ผิดในศาลรายงานการเพิ่มขึ้นอย่างมากของคดีที่คล้ายคลึงกัน สิ่งที่เริ่มต้นเป็นเหตุการณ์เพียงไม่กี่ครั้งต่อเดือนได้เพิ่มขึ้นเป็นหลายคดีต่อวันในเขตอำนาจศาลต่างๆ ปัญหานี้ดูเหมือนจะรุนแรงเป็นพิเศษในหมู่ทนายความที่ทำงานหนักเกินไปและผู้ที่แทนตัวเองในคดีที่อาจไม่เข้าใจข้อจำกัดของ AI อย่างเต็มที่
น่ากังวลคือปัญหานี้ขยายไปไกลกว่าทนายความไปถึงตุลาการเอง โดยมีการบันทึกล่าสุดของตุลาการสามคนที่อ้างอิงอำนาจทางกฎหมายที่ปลอมแปลงในการตัดสินใจอย่างเป็นทางการของพวกเขา
สстатистικความแม่นยำของ AI:
- อัตราการหลอนในปัจจุบัน: ประมาณ 33% ของคำถามที่ถูกสอบถาม (การวิเคราะห์จาก Stanford RegLab )
- การปรับปรุงตลอดเวลา: ประเมินการลดลงจาก 21/23 การอ้างอิงปลอม (2023) เป็นเพียง 1/23 ที่เป็นไปได้ด้วยโมเดลปัจจุบัน
- คดีที่ติดตาม: 52 คดีใน California , 600+ คดีทั่วประเทศ
- รูปแบบการเติบโต: จากไม่กี่คดีต่อเดือนเป็นไม่กี่คดีต่อวัน
 |
|---|
| การบูรณาการ AI ที่เพิ่มขึ้นในวิชาชีพกฎหมายก่อให้เกิดความเสี่ยง เน้นย้ำถึงความจำเป็นในการระมัดระวังต่อข้อผิดพลาดทางเทคโนโลยี |
ข้อจำกัดของเทคโนโลยีและผลกระทบในอนาคต
โมเดลภาษา AI ปัจจุบันมีปัญหาด้านความแม่นยำเมื่อสร้างคำอ้างอิงทางกฎหมาย โดยมีอัตราการหลอนลวงที่ส่งผลกระทบต่อประมาณหนึ่งในสามของคำสอบถามตามการวิจัยของ Stanford University แม้ว่าระบบ AI รุ่นใหม่จะแสดงการปรับปรุง แต่ผู้เชี่ยวชาญเตือนว่าอัตราข้อผิดพลาดที่ลดลงอาจเพิ่มความเสี่ยงได้จริงโดยทำให้ผู้ใช้ประมาทเรื่องการตรวจสอบมากขึ้น
ยิ่งข้อโต้แย้งทางกฎหมายของคุณยากที่จะทำมากเท่าไหร่ โมเดลก็จะมีแนวโน้มที่จะหลอนลวงมากขึ้นเท่านั้น เพราะพวกมันจะพยายามทำให้คุณพอใจ นั่นคือจุดที่อคติการยืนยันเข้ามามีบทบาท
วิชาชีพกฎหมายเผชิญกับแรงกดดันให้ปรับตัวอย่างรวดเร็วกับเครื่องมือ AI ในขณะที่ยังคงรักษามาตรฐานจริยธรรม Judicial Council ของ California ได้บังคับให้ศาลต้องห้าม AI สร้างสรรค์หรือกำหนดนโยบายการใช้งานที่ชัดเจนภายในวันที่ 15 ธันวาคม 2024 ซึ่งสะท้อนถึงความเร่งด่วนในการจัดการกับความท้าทายเหล่านี้
ค่าปรับ 10,000 ดอลลาร์สหรัฐฯ เป็นตัวแทนของบทลงโทษที่ใหญ่ที่สุดที่ออกโดยศาลรัฐ California สำหรับการปลอมแปลงที่เกี่ยวข้องกับ AI แม้ว่าศาลกลางจะได้กำหนดบทลงโทษที่สูงกว่าให้กับบริษัทกฎหมายสำหรับการละเมิดที่คล้ายคลึงกัน ขณะที่การนำ AI มาใช้เร่งขึ้นในวิชาชีพกฎหมาย หน่วยงานกำกับดูแลกำลังรีบจัดตั้งกลไกการกำกับดูแลที่เหมาะสมในขณะที่สร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบทางวิชาชีพ
อ้างอิง: California issues historic fine over lawyer's ChatGPT fabrications