اختر منطقتك 
في 30 دولار مليون قصر تطفو على جرف يطل على جسر Golden Gate Bridge ، مجموعة من الباحثين من الذكاء الاصطناعى والفلاسفة والتقنيين الذين تجمعوا لمناقشة نهاية الإنسانية.
ندوة بعد ظهر يوم الأحد ، والتي تسمى “الخلف الجدير” ، تدور حول فكرة استفزازية من رجل الأعمال دانييل فاجيلا: يجب أن يكون “الهدف الأخلاقي” من الذكاء الاصطناعى المتقدم هو إنشاء شكل من أشكال الذكاء القوية والحكمة لدرجة أنك “تفضل بكل سرور أن تحدد (وليس الإنسانية) المسار المستقبلي للحياة نفسها”.
أوضح Faggella الموضوع واضحًا في دعوته. كتب إليّ عبر X DMS: “يركز هذا الحدث إلى حد كبير على الانتقال ما بعد الإنسانية”. “ليس على Agi الذي يعمل إلى الأبد كأداة للبشرية.”
يمكن وصف طرف مليء بالتخيلات المستقبلية ، حيث يناقش الحاضرون نهاية الإنسانية كمشكلة لوجستية بدلاً من أن تكون مجازية ، مكانة. إذا كنت تعيش في سان فرانسيسكو وتعمل في الذكاء الاصطناعي ، فهذا يوم أحد نموذجي.
رعى حوالي 100 ضيف كوكتيلات غير كحولية ودخلوا على لوحات الجبن بالقرب من النوافذ من الأرض إلى السقف التي تواجه المحيط الهادئ قبل التجمع لسماع ثلاث محادثات حول مستقبل الذكاء. قام أحد الحاضرين بربط قميص قال “كورزويل كان على حق” ، على ما يبدو إشارة إلى راي كورزويل ، الخبير المستقبلي الذي توقع أن آلات ستتجاوز الذكاء البشري في السنوات القادمة. ارتدى آخر قميصًا قال “هل يساعدنا هذا في الوصول إلى AGI آمن؟” يرافقه وجه التفكير الرموز التعبيرية.
أخبر Faggella Wired أنه ألقى هذا الحدث لأنه “المختبرات الكبيرة ، الأشخاص الذين يعرفون أن Agi من المرجح أن ينهي الإنسانية ، ولا يتحدثون عن ذلك لأن الحوافز لا تسمح بذلك” وأشاروا إلى التعليقات المبكرة من قادة التكنولوجيا مثل Elon Musk و Sam Altman و Demis Hassabis ، الذين “كانوا صريحين للغاية حول إمكانية قتل Agi All.” والآن وبعد أن تتنافس الحوافز ، يقول: “إنهم جميعا يتسابقون على تبنيه”. (لكي نكون منصفين ، لا يزال Musk يتحدث عن المخاطر المرتبطة بـ AI المتقدمة ، على الرغم من أن هذا لم يمنعه من السباق إلى الأمام).
على LinkedIn ، تفاخر Faggella بقائمة ضيوف مرصعة بالنجوم ، مع مؤسسي الذكاء الاصطناعى ، والباحثين من جميع مختبرات AI الغربية العليا ، و “معظم المفكرين الفلسفيين المهمين على AGI”.
حذر المتحدث الأول ، جينفيرا ديفيس ، الكاتب في نيويورك ، من أن القيم الإنسانية قد يكون من المستحيل ترجمة إلى الذكاء الاصطناعي. وقالت إن الآلات قد لا تفهم أبدًا ما يشبه أن تكون واعيًا ، وقد تكون محاولة التفضيلات البشرية الشاقة في أنظمة مستقبلية قد تكون قصيرة النظر. وبدلاً من ذلك ، اقترحت فكرة صوتية ذات سبرت تسمى “المحاذاة الكونية”-بناء منظمة العفو الدولية التي يمكن أن تبحث عن قيم أعمق وأكثر شمولية لم نكتشفها بعد. غالبًا ما أظهرت شرائحها صورة تم إنشاؤها على ما يبدو من طراز AI لوفلة تقنية ، حيث تجمعت مجموعة من البشر على عشب يطل على مدينة مستقبلية على مسافة.
سيقول منتقدو وعي الماكينة أن نماذج اللغة الكبيرة هي ببساطة ببغاوات عشوائية – وهي استعارة صاغها مجموعة من الباحثين ، والتي عمل بعضها في Google ، الذين كتبوا في ورقة شهيرة أن LLMs لا يفهمون اللغة بالفعل وهي فقط آلات احتمالية. لكن هذا النقاش لم يكن جزءًا من الندوة ، حيث أخذ المتحدثون فكرة أن الإلغاء الممتاز قادمًا وسريعًا.
