يحذر الفائزون بجائزة تورينج من النشر غير الآمن لنماذج الذكاء الاصطناعى

ابق على اطلاع مع التحديثات المجانية

حذر اثنان من رواد التعلم التعزيز ، وهي تقنية علمية كانت أساسية لطفرة الذكاء الاصطناعي ، من النشر غير الآمن لنماذج الذكاء الاصطناعى بعد الفوز بجائزة Turing لهذا العام.

فاز أندرو بارتو ، أستاذ فخري بجامعة ماساتشوستس ، وريتشارد سوتون ، الأستاذ بجامعة ألبرتا وعالم أبحاث سابق في ديبميند ، بجائزة 1 مليون دولار من جمعية الآلات الحاسوبية لتطوير الطريقة الأولية.

طور بارتو وسوتون التعلم التعزيز في الثمانينيات بعد أن استلهمهما علم النفس وكيف يتعلم الناس. ساعدت تقنية التعلم الآلي ، التي تكافئ أنظمة الذكاء الاصطناعي للتصرف بطريقة مرغوبة ، على توزيع نجاح بعض أفضل مجموعات الذكاء الاصطناعي في العالم ، مثل Openai و Google.

قال الفائزون بالجائزة ، التي غالباً ما يطلق عليها اسم جائزة نوبل للحوسبة ، إنهم قلقون بشأن شركات الذكاء الاصطناعى المتسرعة لإطلاق المنتجات قبل اختبارها بدقة.

وقال بارتو: “إن إطلاق البرمجيات لملايين الأشخاص الذين ليس لديهم ضمانات ليس ممارسة هندسية جيدة” ، يشبهه ببناء جسر واختباره من خلال جعل الناس يستخدمونه.

وأضاف: “لقد تطورت الممارسة الهندسية لمحاولة تخفيف العواقب السلبية للتكنولوجيا ، ولا أرى أن الشركات التي تتطور”.

تأتي الجائزة ، التي سميت على اسم عالم الرياضيات البريطاني آلان تورينج ، بعد أن تم الاعتراف باختراقات منظمة العفو الدولية أيضًا في كل من جوائز نوبل الكيمياء والفيزياء في أكتوبر. وقد أبرز ذلك أهمية أدوات الحوسبة وعلوم البيانات في تكسير المشكلات العلمية المعقدة في النطاقات الزمنية الأقصر بكثير.

“تظل الأدوات (Barto و Sutton) تم تطويرها بمثابة عمود رئيسي لطفرة الذكاء الاصطناعى وأحدثت تقدمًا كبيرًا ، وجذبت جحافل من الباحثين الشباب ، ودفعت مليارات الدولارات في الاستثمارات. وقال جيف دين ، نائب الرئيس الأول في Google ، الذي رعى الجائزة ، إن تأثير (التعلم التعزيز) سيستمر في المستقبل.

استخدمت Google Deepmind هذه التقنية لتطوير AlphaGo ، وهو نظام منظمة العفو الدولية التي تغلب على اللاعبين البشر في اللعبة ، وهو معلم رئيسي في أبحاث الذكاء الاصطناعي. استخدم Openai أيضًا نوعًا من التعلم التعزيز الذي يعتمد على ردود الفعل البشرية للتحكم في ناتج ChatGPT.

لكن كل من Barto و Sutton حذروا من الوتيرة الحالية لتطوير الذكاء الاصطناعى ، حيث تتسابق الشركات لإطلاق نماذج قوية ولكنها عرضة لارتكاب الأخطاء ، وزيادة مبالغ غير مسبوقة من المليارات واستثمار المليارات في البنية التحتية مثل مراكز البيانات لتدريب AI وتشغيلها.

قالت مجموعات التكنولوجيا الكبرى إن إنفاق الذكاء الاصطناعي قد يتجاوز 320 مليار دولار هذا العام ، في حين أن Openai ، الذي أطلق ChatGPT في عام 2022 ، يجمع حاليًا 40 مليار دولار في تمويل جديد بتقييم 260 مليار دولار.

انتقد بارتو قطاع الذكاء الاصطناعى لأنه مدفوع بحوافز العمل ، بدلاً من تعزيز أبحاث الذكاء الاصطناعي. وأضاف: “إن فكرة وجود مراكز بيانات ضخمة ثم شحن مبلغ معين لاستخدام البرنامج تحفز الأشياء ، وهذا ليس الدافع الذي سأشترك فيه”.

جادل Openai بأنه يحتاج إلى فتح مزيد من الاستثمار من خلال هيكل الشركات التقليدي الأكثر تقليدية من أجل تحقيق “مهمة” الشركة المؤسسة لضمان أن الذكاء العام الاصطناعي – سيناريو حيث تحقق أنظمة الكمبيوتر مستويات مماثلة من الذكاء للبشر – تفيد الإنسانية.

لكن سوتون رفض رواية شركات التكنولوجيا حول AGI باعتباره “الضجيج”. “Agi مصطلح غريب لأنه كان هناك دائمًا منظمة العفو الدولية والأشخاص الذين يحاولون فهم الذكاء.” وأضاف أن “أنظمة أكثر ذكاءً من الناس” ستحدث في النهاية من خلال فهم أفضل للعقل البشري.

كما انتقد بارتو وسوتون محاولة الرئيس الأمريكي دونالد ترامب لخفض الإنفاق الفيدرالي على الأبحاث العلمية ووضع الموظفين في وكالات العلوم الأمريكية.

وقال بارتو ، الذي أطلق عليه “خطأ ومأساة ليس فقط لهذا البلد ، ولكن للعالم”.

وأضاف أن الفرص اللازمة للقيام بنوع البحث الذي مكن عملهم في التعلم التعزيز “تختفي” دون حرية استكشاف مفاهيم مجردة غير مثبتة.

على الرغم من مخاوفهم ، فإن كلا العلماء متفائلون بشأن احتمال التعلم التعزيز ، إلى جانب الذكاء الاصطناعي ، لتحقيق نتائج إيجابية للعالم.

“لدينا القدرة على أن نصبح أقل جشعًا وأنانيًا وأكثر وعياً بما يجري في الآخرين. . . قال سوتون: “هناك العديد من الأشياء الخاطئة في العالم ، لكن الكثير من الذكاء ليس أحدهم”.