من الذي يجب إلقاء اللوم عليه عندما تصل عوامل الذكاء الاصطناعى؟

على الماضي على العام ، أمضى مهندس البرمجيات المخضرم جاي براكاش ثاكور لياليه وعطلات نهاية الأسبوع ، يمكن أن يطلبوا ، في المستقبل القريب ، وجبات الطعام وتطبيقات الهواتف المحمولة المهندسة بالكامل تقريبًا. قام وكلاءه ، على الرغم من قدرته على ذلك بشكل مدهش ، على أسئلة قانونية جديدة تنتظر الشركات التي تحاول الاستفادة من أكثر التكنولوجيا الجديدة في وادي السيليكون.

الوكلاء هم برامج منظمة العفو الدولية التي يمكن أن تتصرف بشكل مستقل في الغالب ، مما يسمح للشركات بأتمتة المهام مثل الإجابة على أسئلة العملاء أو دفع الفواتير. على الرغم من أن ChatGPT و chatbots المماثلة يمكنهم صياغة رسائل البريد الإلكتروني أو تحليل الفواتير عند الطلب ، فإن Microsoft وغيرهم من عمالقة التكنولوجيا يتوقعون أن يتعامل الوكلاء مع وظائف أكثر تعقيدًا – والأهم من ذلك ، يفعلون ذلك مع القليل من الإشراف على الإنسان.

تشمل الخطط الأكثر طموحًا في صناعة التكنولوجيا أنظمة متعددة الوكلاء ، حيث يتعاون العشرات من الوكلاء يومًا ما لاستبدال القوى العاملة بأكملها. بالنسبة للشركات ، فإن الفائدة واضحة: الادخار في الوقت المحدد وتكاليف العمالة. بالفعل ، يزداد الطلب على التكنولوجيا. يقدر باحث سوق التكنولوجيا Gartner أن Agentic AI ستحل 80 في المائة من استفسارات خدمة العملاء المشتركة بحلول عام 2029. Fiverr ، وهي خدمة يمكن للشركات حجزها المبرمجين المستقلين ، تقارير أن عمليات البحث عن “AI Agent” ارتفعت بنسبة 18،347 في المائة في الأشهر الأخيرة.

أراد ثاكور ، المبرمج الذي يدرس ذاتياً في كاليفورنيا ، أن يكون في طليعة الحقل الناشئ. وظيفته اليومية في Microsoft لا تتعلق بالوكلاء ، لكنه كان يتجول مع Autogen ، البرمجيات المصدر المفتوحة من Microsoft لوكلاء البناء ، لأنه كان يعمل في Amazon في عام 2024. يقول Thakur إنه طور نماذج أولية متعددة الوكلاء باستخدام Autogen مع اندفاعة من البرمجة فقط. في الأسبوع الماضي ، طرحت Amazon أداة لتطوير الوكيل مماثلة تسمى Strands ؛ تقدم Google ما تسميه مجموعة تطوير الوكيل.

نظرًا لأن الوكلاء يهدفون إلى التصرف بشكل مستقل ، فإن مسألة من يتحمل المسؤولية عندما تسبب أخطائهم أضرارًا مالية أكبر قلق Thakur. يعتقد أن تعيين اللوم عندما يخطئ الوكلاء من الشركات المختلفة في نظام واحد ، قد يصبح مثيرًا للجدل. وقارن التحدي المتمثل في مراجعة سجلات الأخطاء من مختلف الوكلاء لإعادة بناء محادثة بناءً على ملاحظات الأشخاص المختلفين. يقول ثاكور: “من المستحيل في كثير من الأحيان تحديد المسؤولية”.

وقال جوزيف إطفاء رجل الإطفاء ، كبير المستشارين القانونيين في Openai ، على خشبة المسرح في مؤتمر قانوني حديث استضافته مركز موارد قانون الإعلام في سان فرانسيسكو أن الأطراف المتضررة تميل إلى متابعة أعمق جيوب. هذا يعني أن شركات مثله سوف تحتاج إلى أن تكون مستعدة لتحمل بعض المسؤولية عندما يتسبب الوكلاء في ضرر – حتى عندما يكون الطفل يتجول مع وكيل قد يكون المسؤول. (إذا كان هذا الشخص مخطئًا ، فمن المحتمل ألا يكون أموالًا جديرة بالاهتمام ، فالتفكير يذهب). قال رجل الإطفاء: “لا أعتقد أن أي شخص يأمل في الوصول إلى المستهلك الذي يجلس في قبو أمهم على الكمبيوتر”. بدأت صناعة التأمين في طرح تغطية قضايا AI chatbot لمساعدة الشركات على تغطية تكاليف الحوادث.

حلقات البصل

شملت تجارب ثاكور أن يربطه بين العوامل في الأنظمة التي تتطلب أقل قدر ممكن من التدخل البشري. كان أحد المشاريع التي اتبعها استبدال زملائه من مطوري البرمجيات مع اثنين من الوكلاء. تم تدريب أحدهم على البحث عن أدوات متخصصة اللازمة لصنع التطبيقات ، والآخر لخص سياسات الاستخدام الخاصة بهم. في المستقبل ، يمكن للوكيل الثالث استخدام الأدوات المحددة واتباع السياسات الملخصة لتطوير تطبيق جديد تمامًا ، كما يقول ثاكور.

عندما وضع Thakur النموذج الأولي الخاص به للاختبار ، وجد وكيل البحث أداة ، وفقًا لموقع الويب ، “يدعم طلبات غير محدودة في الدقيقة لمستخدمي المؤسسة” (مما يعني أن العملاء الذين يتمتعون بأجور عالية يمكنهم الاعتماد عليها بقدر ما يريدون). ولكن في محاولة لتقطير المعلومات الرئيسية ، انخفض وكيل التلخيص المؤهل الحاسم لـ “في الدقيقة لمستخدمي المؤسسة”. أخبرت عن طريق الخطأ أن وكيل الترميز ، الذي لم يكن مؤهلاً كمستخدم للمؤسسة ، أنه يمكنه كتابة برنامج قدم طلبات غير محدودة للخدمة الخارجية. لأن هذا كان اختبارًا ، لم يكن هناك أي ضرر. إذا حدث ذلك في الحياة الحقيقية ، فقد يكون التوجيه المقطوع قد أدى إلى انهيار النظام بأكمله بشكل غير متوقع.