محامي نيويورك الذي استخدم ChatGPT لكتابة موجز قانوني – نقلاً عن قضايا وهمية – اعتذر بغزارة في المحكمة يوم الخميس ، وأصبح عاطفيًا كما أوضح أنه “خدعه” من قبل روبوت محادثة الذكاء الاصطناعي.
أخبر ستيفن شوارتز ، من مكتب المحاماة تريبيكا Levidow، Levidow & Oberman ، قاضيًا اتحاديًا في مانهاتن أنه “أذل” من قبل الفوضى ، قائلاً إنه يعتقد أنه يستخدم “محرك بحث” ولم يدرك أبدًا أن تطبيق الذكاء الاصطناعي سيوفر قانونًا مزيفًا للقضايا .
قال شوارتز خلال جلسة المحكمة المزدحمة: “أود أن أعتذر بصدق لشرفك ، لهذه المحكمة ، للمتهمين ، لشركتي”.
قال شوارتز بصوت يرتجف: “إنني آسف بشدة لأفعالي بهذه الطريقة التي أدت إلى جلسة الاستماع هذه اليوم”. “لقد عانيت من الناحيتين المهنية والشخصية (بسبب) الدعاية الواسعة النطاق التي ولّدتها هذه القضية. أنا محرج ، ومذل ، وآدم للغاية “.
استخدم شوارتز ChatGPT لمساعدته في العثور على السوابق القضائية لدعم دعوى موكله ، لكن الروبوت اختلق القضايا تمامًا ، دون علم المحامي.
في نهاية المطاف ، قدم المذكرة القانونية مستشهدا بالقضايا الوهمية في المحكمة ، مما دفع القاضي كيفين كاستل إلى إحالته إلى المحكمة لجلسة استماع حول ما إذا كان يجب معاقبة الشركة بسبب ذلك.
اضطر شوارتز إلى التوقف وقول نفسه وهو يعتذر.
قال شوارتز ، الذي أُجبر على التوقف والتأقلم مع اعتذاره: “لم أشارك أبدًا في أي شيء كهذا خلال الثلاثين عامًا التي أمضيتها”.
وأصر أمام القاضي: “يمكنني أن أؤكد لهذه المحكمة أنه لن يحدث شيء مثل هذا مرة أخرى”.
قدم شوارتز مذكرة قضائية في قضية شركته لعام 2022 ممثلاً روبرت ماتا ، الذي رفع دعوى قضائية ضد شركة الطيران الكولومبية أفيانكا مدعياً أنه أصيب عندما اصطدمت عربة نقل معدنية بركبته على متن رحلة إلى مدينة نيويورك.
وشملت بعض القضايا الوهمية التي ذكرها شوارتز ، ميلر ضد يونايتد إيرلاينز ، وبيترسن ضد إيران إير ، وفارجيز ضد شركة طيران جنوب الصين.
استجوب كاستل شوارتز لمدة ساعتين تقريبًا يوم الخميس حول كيفية السماح بحدوث مثل هذا الحادث المؤسف.
أصر شوارتز مرارًا وتكرارًا على أنه لم يتخيل أبدًا أن ChatGPT سوف يختلق السوابق القضائية تمامًا.
قال شوارتز: “لم أستطع أبدًا أن أتخيل أن ChatGPT ستلفق الحالات”. “كنت أفترض أنني كنت أستخدم محرك بحث يستخدم مصادر لا يمكنني الوصول إليها.”
قال شوارتز إن ChatGPT لم يحدد أن الحالات لم تكن حقيقية ، مضيفًا “استمر خداع ChatGPT لي”.
وأوضح: “لم يخطر ببالي مطلقًا أن أقوم بتأليف القضايا”. “لقد افترضت للتو أنه لا يمكن الوصول إلى القضية كاملة.”
قال شوارتز إنه لم يكن ليقدم المذكرة أبدًا إذا كان يعتقد أن السوابق القضائية ليست حقيقية ، لكنه اعترف بأنه كان ينبغي عليه بذل مزيد من العناية الواجبة أولاً.
قال “بعد فوات الأوان ، أتمنى أن أفعل ذلك ، لكنني لم أفعل ذلك”.
اعترف شوارتز أيضًا أنه لم يتمكن من العثور على القضايا الكاملة على الإنترنت ، لكنه قال إنه يعتقد أنها قد تكون قيد الاستئناف أو قضايا غير منشورة.
في وقت من الأوقات ، قرأ كاستل مقتطفًا من إحدى الحالات المختلقة وضغط على شوارتز: “هل يمكننا أن نتفق على أن هذا هراء قانوني؟”
اعترف شوارتز “بالنظر إليه الآن ، نعم”.
أقسم شوارتز استخدام التطبيق في المستقبل وقال أيضًا إنه أخذ دورة تدريبية على الذكاء الاصطناعي لتحسين معرفته بالتكنولوجيا.
وقال توماس كوربينو ، وهو محام آخر في الشركة ، للقاضي إن الشركة لم تخضع لعقوبات من قبل وأن شوارتز كان دائمًا محاميًا احتياطيًا.
وقال محامي آخر في الشركة ، وهو رونالد مينكوف ، للقاضي إن المحامين معروفون بأنهم سيئون مع التكنولوجيا.
قال مينكوف: “لم يكن هناك نية لسوء السلوك هنا”. كان هذا نتيجة الجهل والإهمال. لم يكن متعمدا وبالتأكيد ليس بسوء نية “.
وقال القاضي إنه سيصدر قرارا بشأن ما إذا كان سيصدر عقوبات في وقت لاحق.