اختر منطقتك 
منذ أن تم إطلاق Chatgpt الجديد كليًا يوم الخميس ، قام بعض المستخدمين بحداد على اختفاء شخصية مفعم بالحيوية ومشجعة لصالح واحدة أكثر برودة وأكثر أعمالًا (وهي خطوة مصممة على ما يبدو لتقليل سلوك المستخدم غير الصحي.
اقترح الباحثون في معهد ماساتشوستس للتكنولوجيا نوعًا جديدًا من معيار الذكاء الاصطناعى لقياس كيفية معالجة أنظمة الذكاء الاصطناعى والتأثير على مستخدميها – بطرق إيجابية وسلبية على حد سواء – في خطوة يمكن أن تساعد بناة AI على تجنب رد فعل عكسي مماثل في المستقبل مع الحفاظ على المستخدمين المعرضين للأمان.
تحاول معظم المعايير قياس الذكاء من خلال اختبار قدرة النموذج على الإجابة على أسئلة الامتحان ، أو حل الألغاز المنطقية ، أو التوصل إلى إجابات جديدة لمشاكل الرياضيات المعقدة. نظرًا لأن التأثير النفسي لاستخدام الذكاء الاصطناعي يصبح أكثر وضوحًا ، فقد نرى معهد ماساتشوستس للتكنولوجيا يقترح المزيد من المعايير التي تهدف إلى قياس جوانب أكثر دقة من الذكاء وكذلك التفاعلات من الآلة إلى البشرية.
ورقة معهد ماساتشوستس للتكنولوجيا مشتركة مع السلكية تحدد العديد من التدابير التي سيبحث عنها المعيار الجديد ، بما في ذلك تشجيع العادات الاجتماعية الصحية لدى المستخدمين ؛ دفعهم لتطوير مهارات التفكير الناقد ومهارات التفكير ؛ تعزيز الإبداع. وتحفيز الشعور بالهدف. تتمثل الفكرة في تشجيع تطوير أنظمة الذكاء الاصطناعى التي تتفهم كيفية تثبيط المستخدمين عن الاعتماد المفرط على مخرجاتهم أو التي تدرك عندما يكون شخص ما مدمنًا على العلاقات الرومانسية الاصطناعية ومساعدتهم على بناء علاقات حقيقية.
إن ChatGPT وغيرها من الدردشة بارعة في محاكاة التواصل البشري الجذاب ، ولكن هذا يمكن أن يكون له نتائج مفاجئة وغير مرغوب فيها. في أبريل ، قامت Openai بتعديل نماذجها لجعلها أقل sycophanty ، أو يميل إلى مواكبة كل ما يقوله المستخدم. يبدو أن بعض المستخدمين يتصادمون إلى التفكير الوهمي الضار بعد التحدث مع chatbots أن الدور يلعب سيناريوهات رائعة. قامت الأنثروبور أيضًا بتحديث كلود لتجنب تعزيز “الهوس أو الذهان أو التفكك أو فقدان التعلق بالواقع”.
يقول باحثو معهد ماساتشوستس للتكن عمل الباحثون سابقًا مع Openai في دراسة أظهرت أن المستخدمين الذين ينظرون إلى chatgpt كصديق يمكن أن يعاني من الاعتماد العاطفي أعلى وتجربة “الاستخدام الإشكالي”.
يلاحظ Valdemar Danry ، الباحث في MIT's Media Lab الذي عمل في هذه الدراسة وساعد في وضع المعيار الجديد ، إلى أن نماذج الذكاء الاصطناعى يمكن أن توفر في بعض الأحيان دعمًا عاطفيًا قيمة للمستخدمين. يقول: “يمكنك الحصول على أذكى نموذج التفكير في العالم ، ولكن إذا كان غير قادر على تقديم هذا الدعم العاطفي ، وهو ما يحتمل أن يستخدمه العديد من المستخدمين هذه LLMs ، فإن المزيد من التفكير ليس بالضرورة أمرًا جيدًا لهذه المهمة المحددة”.
يقول دانري إن النموذج الذكي بما فيه الكفاية يجب أن يدرك بشكل مثالي ما إذا كان له تأثير نفسي سلبي ويتم تحسينه لتحقيق نتائج أكثر صحة. “ما تريده هو نموذج يقول” أنا هنا للاستماع ، ولكن ربما يجب عليك الذهاب والتحدث مع والدك حول هذه المشكلات. “
