ساكرامنتو ، كاليفورنيا – استخدم حاكم ولاية كاليفورنيا جافين نيوسوم حق النقض ضد مشروع قانون تاريخي يهدف إلى وضع تدابير السلامة الأولى في البلاد لنماذج الذكاء الاصطناعي الكبيرة يوم الأحد.
ويمثل هذا القرار ضربة قوية للجهود التي تحاول كبح جماح الصناعة المحلية التي تتطور بسرعة مع القليل من الرقابة. وقال المؤيدون إن مشروع القانون كان سيضع بعض اللوائح الأولى بشأن نماذج الذكاء الاصطناعي واسعة النطاق في البلاد ويمهد الطريق للوائح سلامة الذكاء الاصطناعي في جميع أنحاء البلاد.
في وقت سابق من هذا الشهر، قال الحاكم الديمقراطي أمام جمهور في Dreamforce، وهو مؤتمر سنوي تستضيفه شركة البرمجيات العملاقة Salesforce، إن كاليفورنيا يجب أن تكون رائدة في تنظيم الذكاء الاصطناعي في مواجهة التقاعس الفيدرالي، لكن الاقتراح “يمكن أن يكون له تأثير مروع على الصناعة”.
وقال نيوسوم إن الاقتراح، الذي أثار معارضة شديدة من الشركات الناشئة وعمالقة التكنولوجيا والعديد من أعضاء مجلس النواب الديمقراطيين، كان من الممكن أن يضر الصناعة المحلية من خلال وضع متطلبات صارمة.
وقال نيوسوم في بيان: “على الرغم من حسن النية، إلا أن SB 1047 لا يأخذ في الاعتبار ما إذا كان نظام الذكاء الاصطناعي قد تم نشره في بيئات عالية المخاطر، أو ينطوي على اتخاذ قرارات حاسمة أو استخدام بيانات حساسة”. “بدلاً من ذلك، يطبق مشروع القانون معايير صارمة حتى على الوظائف الأساسية – طالما أن هناك نظامًا كبيرًا ينشرها. لا أعتقد أن هذا هو أفضل نهج لحماية الجمهور من التهديدات الحقيقية التي تشكلها التكنولوجيا.
وبدلاً من ذلك، أعلنت نيوسوم يوم الأحد أن الولاية ستتعاون مع العديد من خبراء الصناعة، بما في ذلك رائد الذكاء الاصطناعي Fei-Fei Li، لتطوير حواجز حماية حول نماذج الذكاء الاصطناعي القوية. عارض لي اقتراح سلامة الذكاء الاصطناعي.
كان هذا الإجراء، الذي يهدف إلى الحد من المخاطر المحتملة التي يخلقها الذكاء الاصطناعي، سيطلب من الشركات اختبار نماذجها والكشف علنًا عن بروتوكولات السلامة الخاصة بها لمنع التلاعب بالنماذج، على سبيل المثال، للقضاء على الشبكة الكهربائية في الولاية أو المساعدة في صنع أسلحة كيميائية. ويقول الخبراء إن هذه السيناريوهات قد تكون ممكنة في المستقبل مع استمرار الصناعة في التقدم السريع. كما كان من شأنه أن يوفر الحماية للمبلغين عن المخالفات للعمال.
ووصف مؤلف مشروع القانون، السيناتور الديمقراطي سكوت وينر، حق النقض بأنه “انتكاسة لكل من يؤمن بالرقابة على الشركات الضخمة التي تتخذ قرارات حاسمة تؤثر على سلامة ورفاهية الجمهور ومستقبل الكوكب”.
“تدرك الشركات التي تعمل على تطوير أنظمة الذكاء الاصطناعي المتقدمة أن المخاطر التي تمثلها هذه النماذج للجمهور حقيقية وتتزايد بسرعة. وقال وينر في بيان بعد ظهر الأحد: “في حين أن مختبرات الذكاء الاصطناعي الكبيرة قد قدمت التزامات مثيرة للإعجاب لرصد هذه المخاطر والتخفيف منها، فإن الحقيقة هي أن الالتزامات الطوعية من الصناعة ليست قابلة للتنفيذ ونادرا ما تعمل بشكل جيد للجمهور”.
وقال وينر إن النقاش حول مشروع القانون قد أدى إلى تقدم كبير في مسألة سلامة الذكاء الاصطناعي، وأنه سيواصل الضغط على هذه النقطة.
يعد هذا التشريع من بين مجموعة من مشاريع القوانين التي أقرتها الهيئة التشريعية هذا العام لتنظيم الذكاء الاصطناعي ومحاربة التزييف العميق وحماية العمال. وقال مشرعون بالولاية إن كاليفورنيا يجب أن تتخذ إجراءات هذا العام، مستشهدين بالدروس الصعبة التي تعلموها من الفشل في كبح جماح شركات التواصل الاجتماعي عندما كان من الممكن أن تتاح لهم الفرصة.
قال مؤيدو هذا الإجراء، بما في ذلك Elon Musk وAnthropic، إن الاقتراح كان من الممكن أن يضخ بعض مستويات الشفافية والمساءلة حول نماذج الذكاء الاصطناعي واسعة النطاق، حيث يقول المطورون والخبراء إنهم لا يزالون ليس لديهم فهم كامل لكيفية تصرف نماذج الذكاء الاصطناعي لماذا.
ويستهدف مشروع القانون الأنظمة التي يتطلب بناؤها أكثر من 100 مليون دولار. ولم تصل أي نماذج حالية للذكاء الاصطناعي إلى هذا الحد، لكن بعض الخبراء قالوا إن هذا قد يتغير خلال العام المقبل.
قال دانييل كوكوتاجلو، الباحث السابق في شركة OpenAI الذي استقال في أبريل/نيسان بسبب ما اعتبره تجاهل الشركة لمخاطر الذكاء الاصطناعي: “يرجع هذا إلى التوسع الهائل في الاستثمار داخل الصناعة”. “إنه قدر هائل من السلطة للسيطرة على أي شركة خاصة دون مساءلة، كما أنه أمر محفوف بالمخاطر بشكل لا يصدق.”
وتتخلف الولايات المتحدة بالفعل عن أوروبا في تنظيم الذكاء الاصطناعي للحد من المخاطر. وقال المؤيدون إن اقتراح كاليفورنيا لم يكن شاملا مثل اللوائح التنظيمية في أوروبا، لكنه كان من الممكن أن يكون خطوة أولى جيدة لوضع حواجز حول التكنولوجيا سريعة النمو التي تثير المخاوف بشأن فقدان الوظائف، والمعلومات المضللة، وغزو الخصوصية، والتحيز للأتمتة.
وقد وافق عدد من شركات الذكاء الاصطناعي الرائدة في العام الماضي طوعاً على اتباع الضمانات التي وضعها البيت الأبيض، مثل الاختبار وتبادل المعلومات حول نماذجها. وقال مؤيدو الإجراء إن مشروع قانون كاليفورنيا كان سيلزم مطوري الذكاء الاصطناعي باتباع متطلبات مماثلة لتلك الالتزامات.
لكن المنتقدين، بما في ذلك رئيسة مجلس النواب الأمريكي السابقة نانسي بيلوسي، زعموا أن مشروع القانون من شأنه أن “يقتل تكنولوجيا كاليفورنيا” ويخنق الابتكار. وقالوا إن ذلك كان سيثني مطوري الذكاء الاصطناعي عن الاستثمار في النماذج الكبيرة أو مشاركة البرامج مفتوحة المصدر.