اختر منطقتك 
حالة الطقس 
بمجرد أن نحصل على أجهزة كمبيوتر تضاهي مستوى الذكاء البشري، فلن يتوقف الأمر عند هذا الحد. مع المعرفة العميقة، والقدرات الرياضية على مستوى الآلة، والخوارزميات الأفضل، سيتمكنون من خلق الذكاء الفائق، أليس كذلك؟
نعم، ليس هناك شك في أن الآلات ستكون في النهاية أكثر ذكاءً من البشر. لا نعرف كم من الوقت سيستغرق الأمر، قد يستغرق سنوات، وقد يستغرق قرونًا.
في الذي – التي نقطة، هل علينا أن نغلق البوابات؟
لا لا. سيكون لدينا جميعًا مساعدين يعتمدون على الذكاء الاصطناعي، وسيكون الأمر أشبه بالعمل مع فريق من الأشخاص الأذكياء. لن يكونوا أشخاصًا. يشعر البشر بالتهديد من هذا، ولكن أعتقد أننا يجب أن نشعر بالإثارة. الشيء الذي يثيرني أكثر هو العمل مع أشخاص أكثر ذكاءً مني، لأن ذلك يزيد من قدراتك الخاصة.
ولكن إذا أصبحت أجهزة الكمبيوتر فائقة الذكاء، فلماذا تحتاج إلينا؟
لا يوجد سبب للاعتقاد بأنه لمجرد أن أنظمة الذكاء الاصطناعي ذكية فإنها سترغب في السيطرة علينا. يخطئ الناس عندما يتصورون أن أنظمة الذكاء الاصطناعي سيكون لها نفس الدوافع التي يمتلكها البشر. هم فقط لن يفعلوا ذلك. سنقوم بتصميمهم على عدم القيام بذلك.
ماذا لو لم يبني البشر هذه الدوافع، وانتهى الأمر بأنظمة الذكاء الفائق إلى إيذاء البشر من خلال السعي وراء هدف واحد؟ مثل مثال الفيلسوف نيك بوستروم لنظام مصمم لصنع مشابك الورق مهما كانت، ويسيطر على العالم لصنع المزيد منها.
سيكون من الغباء للغاية أن تبني نظامًا دون أن تبني أي حواجز حماية. سيكون ذلك مثل بناء سيارة بمحرك بقوة 1000 حصان وبدون فرامل. إن إدخال محركات الأقراص في أنظمة الذكاء الاصطناعي هو الطريقة الوحيدة لجعلها آمنة وقابلة للتحكم. أنا أسمي هذا الذكاء الاصطناعي الموجه نحو الهدف. هذا نوع من الهندسة المعمارية الجديدة، وليس لدينا أي عرض توضيحي لها في الوقت الحالي.
هذا ما تعمل عليه الآن؟
نعم. والفكرة هي أن الآلة لديها أهداف تحتاج إلى تحقيقها، ولا يمكنها إنتاج أي شيء لا يلبي تلك الأهداف. قد تتضمن هذه الأهداف حواجز حماية لمنع الأشياء الخطرة أو أي شيء آخر. هذه هي الطريقة التي تجعل نظام الذكاء الاصطناعي آمنًا.
هل تعتقد أنك ستعيش لتندم على عواقب الذكاء الاصطناعي الذي ساعدت في تحقيقه؟
إذا اعتقدت أن هذا هو الحال، فسوف أتوقف عن فعل ما أفعله.
أنت معجب كبير بموسيقى الجاز. هل يمكن لأي شيء ينتج عن الذكاء الاصطناعي أن يضاهي الإبداع النخبوي المبتهج الذي لا يمكن أن ينتجه سوى البشر حتى الآن؟ هل يمكن أن ينتج عملاً له روح؟
الجواب معقد. نعم، بمعنى أن أنظمة الذكاء الاصطناعي ستنتج في نهاية المطاف موسيقى – أو فنًا بصريًا، أو أي شيء آخر – بجودة تقنية مشابهة لما يمكن أن يفعله البشر، وربما أفضل. لكن نظام الذكاء الاصطناعي لا يمتلك جوهر الموسيقى المرتجلة، التي تعتمد على توصيل الحالة المزاجية والعاطفة من الإنسان. على الأقل ليس بعد. لهذا السبب يجب الاستماع إلى موسيقى الجاز مباشرة.
