الربح مقابل الإنسانية: نقاش حوكمة الشركات في الذكاء الاصطناعى

مرحبًا بعودتك.

الصراع من أجل تحقيق التوازن بين الربح والغرض أمر صعب بالنسبة للعديد من قادة الأعمال. يجب أن يكون الأمر صعبًا بشكل خاص عندما تعتقد أن صناعتك قد تسبب انقراض الجنس البشري.

كيف تتعامل شركات الذكاء الاصطناعي لهذه الديناميكية الحساسة؟ تابع القراءة وأخبرنا بعلوتك في [email protected].

حوكمة الشركات

الشركات الناشئة AI تزن الربح مقابل الإنسانية

ربما لم يكن أي رواد أعمال في التاريخ على يقين من إمكانات عملهم في العالم كمحصول الحالي من رواد الذكاء الاصطناعي. لطمأنة الجمهور – وربما أنفسهم – قام بعض اللاعبين البارزين في القطاع بتطوير هياكل حوكمة غير عادية من المفترض أن تقيدهم من وضع مكاسب تجارية فوق مصلحة الإنسانية.

لكن من غير الواضح أن هذه الأنظمة ستثبت مناسبة للغرض عندما تصطدم هاتان الأولتين. وتثبت التوترات بالفعل صعوبة في التعامل معها ، كما يمكننا أن نرى من التطورات الأخيرة في Openai ، الناشئة الأكثر شهرة في العالم وذات قيمة عالية. إنها ملحمة معقدة ، ولكنها تعطي نافذة حيوية في نقاش حوكمة الشركات مع آثار هائلة.

تأسست شركة Openai من قبل مجموعة تشمل رجل الأعمال سام التمان في عام 2015 ككيان بحث غير ربحي ، بتمويل من تبرعات من أمثال Elon Musk ، مع مهمة “تقدم الذكاء الرقمي في الطريقة التي من المرجح أن تفيد الإنسانية ككل ، غير مثبتة على الحاجة إلى توليد عودة مالية”. ولكن بعد بضع سنوات ، خلص Altman إلى أن المهمة ستتطلب قوة حوسبة أكثر تكلفة مما يمكن تمويلها من خلال الأعمال الخيرية وحدها.

لذلك في عام 2019 ، أنشأ Openai أعمالًا ربحية ، مع بنية فريدة. المستثمرون التجاريون-من بينهم أصبح Microsoft هو الأكبر بسهولة-سيكون لديهم أبعاد فرضت على أرباحهم ، مع تدفق جميع الأرباح فوق هذا المستوى إلى غير ربحية. من الأهمية بمكان ، أن مجلس إدارة غير ربحية سيواصل السيطرة على عمل الربح ، حيث تركز المهمة التي تركز على الإنسانية على عوائد المستثمر.

“سيكون من الحكمة عرض أي استثمار في Openai Global ، LLC بروح التبرع” ، قيل للمستثمرين. ومع ذلك ، أثبتت شركة Microsoft وغيرها من المستثمرين على استعداد لتوفير التمويل الذي مكن Openai من صاعقة العالم من إطلاق ChatGpt.

ومع ذلك ، في الآونة الأخيرة ، كان المستثمرون يعبرون عن عدم الارتياح من الإعداد-ولا سيما بنك Softbank في اليابان ، والذي دفع إلى التخلص الهيكلي.

في ديسمبر / كانون الأول ، انتقلت Openai إلى معالجة هذه المخاوف من خلال خطة إعادة الهيكلة التي ، على الرغم من صياغتها ببراءة ، كانت ستدمر بنية الحوكمة المقيدة. لم يعد لدى غير ربحية السيطرة على الأعمال التي تهدف إلى الربح. بدلاً من ذلك ، ستحتل المرتبة كمساهم في التصويت إلى جانب المستثمرين الآخرين ، وستستخدم دخلها النهائي من العمل إلى “متابعة المبادرات الخيرية في قطاعات مثل الرعاية الصحية والتعليم والعلوم”.

دفعت الخطة خطابًا مفتوحًا مدمرًا من مختلف النجوم ، وحث المسؤولين الحكوميين على اتخاذ إجراء بشأن ما قالوا إنه خرق للقيود القانونية التي فرضتها ذاتيا من Openai. وأشاروا إلى أن خطة شهر ديسمبر كانت ستتخلص من “الواجب القابل للتنفيذ المستحق للجمهور” لضمان فوائد الذكاء الاصطناعى الإنسانية ، التي تم خبزها في الهيكل القانوني للمنظمة منذ البداية.

هذا الأسبوع ، نشر Openai خطة منقحة تتناول العديد من مخاوف النقاد. إن التسلق الرئيسي هو أكثر من قوة مجلس الإدارة غير الربحية ، والذي سيحتفظ بالسيطرة الشاملة على الأعمال التجارية الربحية. تخطط Openai للمضي قدمًا ، مع إزالة أغطية الربح لمستثمريها التجاريين.

يبقى أن نرى ما إذا كان هذا التسوية كافية لإرضاء المستثمرين مثل Microsoft و SoftBank. على أي حال ، يمكن لـ Openai الادعاء بشكل معقول بأنه حافظ على قيود أكثر صرامة على عملها من DeepMind منافسة القوس. عندما تم بيع الشركة التي تتخذ من لندن مقراً لها إلى Google في عام 2014 ، قام مؤسسوها بتأمين وعد بأن يتم الإشراف على عملها من قبل مجلس أخلاق مستقل قانونيًا ، كما يروي بارمي أولسون في كتابها سيادة. لكن هذه الخطة سرعان ما تم إسقاطها. وقال ديميس هاسابيس ، أحد مؤسسي Deepmind لمؤسس Deepmind لـ Olson: “أعتقد أننا ربما كان لدينا وجهات نظر مثالية للغاية”.

لا يزال من الممكن العثور على بعض المثالية في المرحلة المبكرة في الأنثروبور ، وهي شركة ناشئة تأسست في عام 2021 من قبل موظفي Openai الذين كانوا قلقين بالفعل بشأن انجراف تلك المنظمة من مهمتها التأسيسية. أنشأت الأنثروبور “ثقة فائدة طويلة الأجل” من خمسة أشخاص مع تفويض لتعزيز اهتمام الإنسانية بشكل عام. في غضون أربع سنوات ، سيكون للثقة القدرة على تعيين أغلبية مجلس إدارة الأنثروبور.

تم تنظيم الأنثروبور كشركة فوائد عامة ، مما يعني أن مديريها مطلوبون قانونًا للنظر في مصالح المجتمع وكذلك المساهمين. Musk's XAI هو أيضًا PBC ، وسيصبح أعمال Openai للربح واحدة تحت إعادة الهيكلة المقترحة.

في الممارسة العملية ، ومع ذلك ، فإن هيكل PBC يفرض القليل في طريق القيود. يمكن للمساهمين المهمين فقط – وليس أعضاء الجمهور الأوسع – اتخاذ إجراءات ضد مثل هذه الشركات لخرق التزاماتهم الائتمانية تجاه المجتمع الأوسع.

وعلى الرغم من أن الحفاظ على سيطرة الهيئة غير الهادفة للربح في Openai قد يبدو بمثابة فوز كبير على المدافعين عن سلامة الذكاء الاصطناعى ، إلا أنه من الجدير أن نتذكر ما حدث في نوفمبر 2023. وبعد أن أطلق المجلس التمان على المخاوف بشأن التزامه بمبادئ Openai التوجيهية ، واجه موظفًا ومستثمرًا من قبل المبتدئين الذين انتهوا بعودة Atmman و Exit لمعظم المستشارين.

باختصار ، تم اختبار قوة اللوحة غير الهادفة للربح ، مع واجبها تجاه الإنسانية ، على الاختبار-وأظهرت أنها ضئيلة.

حذر اثنان من أولئك الذين غادروا Openai في مقال اقتصادي في العام الماضي من أن القيود التي فرضتها الذكاء الاصطناعي التي فرضتها الذكاء الاصطناعى “لا يمكن أن تصمد أمام ضغوط حوافز الربح”.

وكتبت هيلين تونر وتاشا مكوليي: “من أجل صعود الذكاء الاصطناعي لصالح الجميع ، يجب أن تبدأ الحكومات في بناء أطر تنظيمية فعالة الآن”.

لقد بدأ الاتحاد الأوروبي بداية قوية على تلك الجبهة من خلال قانون الذكاء الاصطناعى التاريخي. ومع ذلك ، في الولايات المتحدة ، حققت شخصيات تقنية مثل مارك أندريسن تقدمًا كبيرًا مع حملتها ضد تنظيم الذكاء الاصطناعي ، وقد أشارت إدارة ترامب إلى القليل من الشهية لعناصر التحكم الضيقة.

يتم تعزيز قضية التنظيم من خلال الأدلة المتزايدة على إمكانات الذكاء الاصطناعي لتفاقم عدم المساواة العرقية والجنسية في سوق العمل وخارجها. يمكن أن تكون المخاطر طويلة المدى التي تقدمها الذكاء الاصطناعى المتزايد القوي أكثر خطورة. وقعت العديد من الشخصيات الرائدة في القطاع – بما في ذلك Altman و Hassabis – على بيان عام 2023 تحذيرًا من أن “التخفيف من خطر الانقراض من الذكاء الاصطناعى يجب أن يكون أولوية عالمية”.

إذا تم خداع قادة الذكاء الاصطناعى بشأن قوة اختراعاتهم ، فقد يكون هناك حاجة للقلق. ولكن مع استمرار الاستثمار في هذا المجال في الفطر ، سيكون ذلك افتراضًا طفحًا.

القراءات الذكية

منطقة الخطر أظهرت بيانات جديدة أن الاحترار العالمي تجاوز عتبة 1.5C في 21 من 22 شهرًا الماضية.

الضغط يدعو المسؤولون الأمريكيون السلطات المالية في العالم إلى توسيع نطاق مشروع مخاطر المناخ الرائد في إطار لجنة بازل للبيانات المصرفية.