اختر منطقتك 
حالة الطقس 
إذا وصلت إلى نقطة تفوق فيها التقدم على القدرة على جعل الأنظمة آمنة ، فهل ستتوقف مؤقتًا؟
لا أعتقد أن أنظمة اليوم تشكل أي نوع من المخاطر الوجودية ، لذلك لا تزال نظرية. قد ينتهي الأمر بالأسئلة الجيوسياسية في الواقع إلى أن تكون أكثر صعوبة. ولكن بالنظر إلى ما يكفي من الوقت والرعاية والتفكير الكافي ، واستخدام الطريقة العلمية …
إذا كان الإطار الزمني ضيقًا كما تقول ، فليس لدينا الكثير من الوقت للرعاية والتفكير.
نحن لا لديك الكثير من الوقت. نحن نضع الموارد بشكل متزايد في الأمن وأشياء مثل الإنترنت وأيضًا البحث ، كما تعلمون ، قابلية التحكم وفهم هذه الأنظمة ، والتي تسمى أحيانًا التفسير الميكانيكي. ثم في الوقت نفسه ، نحتاج أيضًا إلى إجراء مناقشات مجتمعية حول البناء المؤسسي. كيف نريد أن تعمل الحوكمة؟ كيف سنحصل على اتفاق دولي ، على الأقل بشأن بعض المبادئ الأساسية حول كيفية استخدام هذه الأنظمة ونشرها ومصمتها أيضًا؟
كم تعتقد أن الذكاء الاصطناعى سوف يغير أو يلغي وظائف الناس؟
ما يميل عمومًا إلى الحدوث هو إنشاء وظائف جديدة تستخدم أدوات أو تقنيات جديدة وهي في الواقع أفضل. سنرى ما إذا كان الأمر مختلفًا هذه المرة ، ولكن خلال السنوات القليلة المقبلة ، سيكون لدينا هذه الأدوات المذهلة التي تتفوق على إنتاجيتنا وتجعلنا في الواقع خارقة بعض الشيء.
إذا تمكنت AGI من فعل كل ما يمكن للبشر فعله ، فيبدو أنه يمكن أن يقوم بالوظائف الجديدة أيضًا.
هناك الكثير من الأشياء التي لن نريد القيام بها مع آلة. يمكن مساعدة الطبيب من خلال أداة الذكاء الاصطناعى ، أو قد يكون لديك نوع من الطبيب من الذكاء الاصطناعي. لكنك لا تريد ممرضة روبوت – هناك شيء عن جانب التعاطف البشري لتلك الرعاية الإنسانية بشكل خاص.
أخبرني ما الذي تتخيله عندما تنظر إلى مستقبلنا منذ 20 عامًا ، ووفقًا لتنبؤاتك ، فإن Agi موجود في كل مكان؟
إذا سارت الأمور على ما يرام ، فيجب أن نكون في عصر وفرة جذرية ، وهو نوع من العصر الذهبي. يمكن أن يحل AGI ما أسميه مشاكل عقدة الجذر في العالم-مما يؤدي إلى أمراض رهيبة ، وأكثر صحة وأطول من العمر ، وإيجاد مصادر طاقة جديدة. إذا حدث كل هذا ، فيجب أن يكون عصرًا من الازدهار البشري الأقصى ، حيث نسافر إلى النجوم ونقوم باستعمار المجرة. أعتقد أن هذا سيبدأ في الحدوث في عام 2030.
أنا متشكك. لدينا وفرة لا تصدق في العالم الغربي ، لكننا لا نقوم بتوزيعها بشكل عادل. بالنسبة لحل المشكلات الكبيرة ، لا نحتاج إلى إجابات بقدر العزم. لا نحتاج إلى agi لنخبرنا بكيفية إصلاح تغير المناخ – نحن نعرف كيف. لكننا لا نفعل ذلك.
أنا أتفق مع ذلك. لقد كنا ، كنوع ، مجتمع ، ليس جيدًا في التعاون. يتم تدمير موائلنا الطبيعية ، ويرجع ذلك جزئيًا إلى أن ذلك سيتطلب من الناس تقديم تضحيات ، والناس لا يريدون ذلك. لكن هذه الوفرة الراديكالية من الذكاء الاصطناعي ستجعل الأمور تشعر وكأنها لعبة غير صفرية-
Agi سيغير السلوك البشري؟
نعم. اسمحوا لي أن أعطيك مثالا بسيطا جدا. سيكون الوصول إلى المياه مشكلة كبيرة ، ولكن لدينا حل – التقديرية. يكلف الكثير من الطاقة ، ولكن إذا كان هناك طاقة مجددة ونظيفة (لأن الذكاء الاصطناعى قد توصلت إليها) من الانصهار ، ثم فجأة تحل مشكلة الوصول إلى المياه. فجأة لم تعد لعبة صفر.
