اختر منطقتك 
يبدو الفيلسوف نيك بوستروم مبتهجًا بشكل مدهش بالنسبة لشخص قضى الكثير من الوقت في القلق بشأن الطرق التي قد تدمر بها البشرية نفسها. في الصور، غالبًا ما يبدو جديًا للغاية، وربما تطارده بشكل مناسب المخاطر الوجودية التي تتجول حول دماغه. عندما نتحدث عبر Zoom، يبدو مرتاحًا ويبتسم.
لقد جعل بوستروم من شغل حياته التفكير في التقدم التكنولوجي البعيد والمخاطر الوجودية للبشرية. ومع صدور كتابه الأخير، الذكاء الفائق: المسارات، المخاطر، الاستراتيجياتفي عام 2014، لفت بوستروم انتباه الرأي العام إلى ما كان آنذاك فكرة هامشية، وهي أن الذكاء الاصطناعي سوف يتقدم إلى نقطة قد ينقلب فيها ضد الإنسانية ويحذفها.
بالنسبة للكثيرين داخل وخارج أبحاث الذكاء الاصطناعي، بدت الفكرة خيالية، لكنها شخصيات مؤثرة بما في ذلك إيلون ماسك استشهد بكتابة بوستروم. أثار الكتاب سلسلة من المخاوف المروعة بشأن الذكاء الاصطناعي المشتعل الذي اندلع مؤخرًا بعد وصول ChatGPT. لا يعد القلق بشأن مخاطر الذكاء الاصطناعي أمرًا سائدًا فحسب، بل هو أيضًا موضوع داخل دوائر سياسة الذكاء الاصطناعي الحكومية.
يتخذ كتاب بوستروم الجديد مسارًا مختلفًا تمامًا. بدلاً من لعب الضربات القاتلة، اليوتوبيا العميقة: الحياة والمعنى في عالم محلول، يدرس المستقبل الذي نجحت فيه البشرية في تطوير آلات فائقة الذكاء ولكنها تجنبت الكارثة. لقد تم القضاء على جميع الأمراض ويمكن للبشر أن يعيشوا إلى أجل غير مسمى في وفرة لا نهاية لها. يبحث كتاب بوستروم في المعنى الذي سيكون موجودًا في الحياة داخل المدينة الفاضلة التكنولوجية، ويتساءل عما إذا كان من الممكن أن تكون جوفاء إلى حد ما. لقد تحدث مع WIRED عبر Zoom، في محادثة تم تعديلها بشكل طفيف من أجل الطول والوضوح.
ويل نايت: لماذا نتحول من الكتابة عن الذكاء الاصطناعي الفائق الذي يهدد البشرية إلى التفكير في مستقبل يتم استخدامه فيه لفعل الخير؟
نيك بوستروم: إن الأشياء المختلفة التي يمكن أن تسوء في تطوير الذكاء الاصطناعي تحظى الآن بمزيد من الاهتمام. إنه تحول كبير في السنوات العشر الماضية. والآن تضم جميع مختبرات الذكاء الاصطناعي الرائدة مجموعات بحثية تحاول تطوير أساليب محاذاة قابلة للتطوير. وفي العامين الماضيين أيضًا، بدأ القادة السياسيون في الاهتمام بالذكاء الاصطناعي.
ولم تحدث حتى الآن زيادة متناسبة في العمق والتطور من حيث التفكير إلى أين ستؤول الأمور إذا لم نقع في إحدى هذه الحفر. لقد كان التفكير سطحيًا جدًا حول هذا الموضوع.
عندما كتبت الذكاء الفائقلم يكن أحد ليتوقع أن تصبح المخاطر الوجودية للذكاء الاصطناعي موضوعًا للنقاش السائد بهذه السرعة. هل سنحتاج إلى القلق بشأن المشكلات الموجودة في كتابك الجديد في وقت أقرب مما قد يعتقده الناس؟
عندما نبدأ في رؤية طرح الأتمتة، بافتراض استمرار التقدم، أعتقد أن هذه المحادثات ستبدأ في الحدوث وتتعمق في النهاية.
سوف تصبح تطبيقات الرفيق الاجتماعي بارزة بشكل متزايد. سيكون لدى الناس جميع أنواع وجهات النظر المختلفة، وهو مكان رائع لخوض حرب ثقافية صغيرة. يمكن أن يكون أمرًا رائعًا بالنسبة للأشخاص الذين لا يستطيعون العثور على ما يرضيهم في الحياة العادية، ولكن ماذا لو كانت هناك شريحة من السكان تستمتع بإساءة معاملتهم؟
في المجالات السياسية والإعلامية، يمكننا أن نرى استخدام الذكاء الاصطناعي في الحملات السياسية والتسويق وأنظمة الدعاية الآلية. ولكن إذا كان لدينا مستوى كاف من الحكمة، فإن هذه الأشياء يمكن أن تزيد من قدرتنا على أن نكون مواطنين ديمقراطيين بناءين، مع نصائح فردية تشرح ما تعنيه مقترحات السياسة بالنسبة لك. سيكون هناك مجموعة كاملة من الديناميكيات للمجتمع.
فهل سيكون المستقبل الذي نجح فيه الذكاء الاصطناعي في حل العديد من المشاكل، مثل تغير المناخ، والمرض، والحاجة إلى العمل، سيئا إلى هذا الحد؟
