فرضت المحكمة العليا في ولاية نيو مكسيكو الأمريكية غرامة مالية على محامٍ بعد أن قدم مذكرة استئناف في قضية قتل تضمنت معلومات وشهادات غير صحيحة أنشأها تطبيق ChatGPT، في واقعة جديدة تسلط الضوء على مخاطر الاعتماد على أدوات الذكاء الاصطناعي من دون مراجعة بشرية دقيقة.

وقررت المحكمة تغريم المحامي ستيفن آرونز مبلغ 5 آلاف دولار، كما أحالته إلى مجلس تأديب المحامين للتحقيق في سلوكه المهني، معتبرة أنه فشل في التحقق من دقة المواد التي أدرجها في المذكرة المقدمة للمحكمة.

وبحسب المعطيات الواردة في القضية، استخدم آرونز ChatGPT لتلخيص إجراءات محاكمة أوسكار رينيه ساندوفال، المحكوم عليه بالسجن مدى الحياة في قضية قتل والدة أطفاله، بعدما تولى مهمة إعداد الاستئناف.

وقال المحامي إنه لم يكن يدرك أن الأداة يمكن أن تولد معلومات غير صحيحة أو ما يعرف بـ"هلوسة الذكاء الاصطناعي"، موضحاً أنه أدخل تسجيلات صوتية ووثائق من المحاكمة إلى النظام على أمل الحصول على ملخص دقيق ومتماسك.

غير أن المذكرة تضمنت، وفق المحكمة، مواد خيالية بالكامل، من بينها تفاصيل مزعومة عن شهادة أحد رجال الشرطة، إضافة إلى معلومات غير صحيحة حول ملابس المتهم، وهي عناصر لم تكن موجودة في سجل المحاكمة الأصلي.

وخلال جلسة النظر في القضية، انتقدت القاضية سي. شانون بيكون اعتماد المحامي على الأداة من دون تدقيق، مشيرة إلى أن مشكلة المراجع والحقائق المختلقة التي تنتجها أنظمة الذكاء الاصطناعي أصبحت معروفة على نطاق واسع في الوسط القانوني.

من جانبه، عبّر آرونز عن أسفه، وقال إن ما حدث كان خطأ غير متعمد، آملاً أن يأخذ مجلس التأديب ذلك بعين الاعتبار، معتبراً أن الواقعة تمثل درساً للمهنيين الذين يعتمدون بسرعة على أدوات الذكاء الاصطناعي في إعداد أعمال حساسة.