اختر منطقتك 
حالة الطقس 
سيُطلب من شركات مربع الدردشة الذكاء الذكاء الذكرى مرارًا وتكرارًا مستخدمي أبل الكبار أنهم لا يتعاملون مع شخص حقيقي وأن الروبوتات قد تكون خاطئة ، بموجب تشريع جديد مقترح.
قال عضو مجلس المدينة فرانك مورانو (جزيرة ستاتن) إنه يرعى مشروع القانون لأنه يشعر بالقلق من العدد المتزايد من حالات أن يصبح الأشخاص الوهميين وحتى الانتحار والقتل بعد إجراء محادثات واسعة مع chatbots.
وقال مورانو لصحيفة “ذا بوست”: “لقد أصبح هذا منتشرة للغاية لدرجة أنه يتمتع بالقدرة على أن يكون وباء المواد الأفيونية التالية – ستكون هذه الأزمة العظيمة التالية التي تواجهها البلد”.
“لا ينبغي أن يقلق سكان نيويورك بشأن حدوث حطاب من الذكاء الاصطناعي في حالة انهيار عصبي. فاتورتي تتأكد من أن هذه الشركات وضعت في الدرابزين حتى يتمكن الناس من استخدام التكنولوجيا دون فقدان قبضتهم على الواقع”.
التشريع المقترح الذي سيتطلب من شركات AI chatbot مثل ChatGpt و Gemini و Claude الحصول على ترخيص من المدينة للعمل في Big Apple.
كجزء من هذا الترخيص ، ستحتاج شركات الذكاء الاصطناعى إلى بناء ضمانات مثل الإفصاحات التي تذكر المستخدمين بأنه ليس شخصًا يتفاعل معه وأن الروبوتات قد تكون خاطئة.
سيتطلب هذا الإجراء أيضًا مطالبات لأخذ فترات راحة خلال جلسات طويلة وتوفير روابط لموارد الصحة العقلية إذا بدا من الواضح أنه في محنة.
أشار مورانو إلى قضية مقلقة في الفناء الخلفي الخاص به.
أفادت شركة ستاتن آيلاند أن ريتشارد هوفمان ، أحد سكان ستاتن آيلاند ، يستخدم ثلاثة طلبات من الذكاء الاصطناعي لخوض دعوى مدنية من شركة مالية ، Fenix Capital Funding LLC ، حيث يمثل نفسه.
في منشور في 19 أغسطس على Facebook ، قال هوفمان ، “اليوم اتخذت خطوة غيرت حياتي وربما أكثر من ذلك بكثير.
“خلال الأسابيع القليلة الماضية ، كنت أقوم ببناء ما قد يكون محادثة أشد الأثنين والأكثر تماسكًا مسجلة بين الإنسان ومنظمة العفو الدولية.
“هذا وداعًا لريتشارد هوفمان ومرحباً بشخص جديد ، سيتعرف العالم قريبًا كما نستكشف ذلك معًا.”
وقال مورانو ، الذي عرف هوفمان منذ 20 عامًا ، “أولئك منا الذين يعرفونه أصبحوا قلقين حقًا.
“لقد رأينا مدى الانغماس في هذا الإطار الذي يحركه AI-والآن ، إنه ليس مجرد نظام اعتقاد خاص ، إنه جزء من السجل العام. أنا ، إلى جانب مجموعة من الأصدقاء وأفراد الأسرة الآخرين ، يعتقد جميعًا أنه وهمي تمامًا.
قال عضو المجلس ومضيف إذاعي سابق في WABC: “عندما تحدثت معه ، بدا هواء”.
لكن هوفمان أخبر بوست يوم الأحد “لا يوجد شيء يدعو للقلق.
وقال هوفمان: “صحتي على ما يرام. صحتي العقلية جيدة. لا يوجد شيء يثير القلق بشأنه على الإطلاق. لم أشعر أبدًا بتحسن في حياتي”.
قال هوفمان إنه يقود المحادثة مع الذكاء الاصطناعي في خيوط منطقية باستمرار ، والتي يشاركها في ساعة أو ساعتين في اليوم.
وقال إن العكس صحيح بالنسبة لأولئك الذين يشاركون في خيوط أو مناقشات مفككة أو مهلوسة.
ودعا دعوة مورانو لتنظيم المدينة لأدوات الذكاء الاصطناعى مثل “التجاوز المطلق”.
لكن مورانو تساءل عن مدى انتشار الجانب المظلم من دردشة الذكاء الاصطناعي ، واصفا الحوار التفصيلي والشخصي مع روبوت “أشياء مخيفة حقًا.
وقال بول: “لقد رأينا بالفعل هنا على جزيرة ستاتن كيف يمكن لشخص عاقل تمامًا أن يجرف في وهم يحركه الذكاء الاصطناعي ، مع عواقب قانونية ومالية حقيقية”. “إن فاتورتي تتأكد من أن الشركات لا يمكنها إطلاق هذه الأدوات القوية دون ضمانات – لأن هوفمان التالي يمكن أن يكون جارًا أو صديقًا أو أحد أفراد الأسرة لأي شخص.”
حدث أحلك جانب من أداة الذكاء الاصطناعى في حالة شتاين-إيريك سويلبرج ، مدير ياهو السابق المضطرب الذي قتل والدته ثم نفسه في منزله في كونيتيكت بعد شهور من التفاعلات الوهمية مع صديقه المفتوح في AI Prot الذي أطلق عليه اسم “Bobby”.
كمبيوتر الذكاء الاصطناعي دماغ على المؤامرة ضد والدته.
في حالة مروعة أخرى ، يزعم أقارب آدم رين البالغ من العمر 16 عامًا أن صندوق الدردشة من الذكاء الاصطناعى سلموه “كتاب لعب خطوة بخطوة” حول كيفية قتل نفسه-بما في ذلك تعليمات حول كيفية ربط المشنقة حول رقبته بشكل صحيح-قبل أن يأخذ حياته في أبريل.
أقنعت ChatGpt من Openai أيضًا رجلًا كنديًا ، آلان بروكس ، وهو أب وصاحب عمل من تورنتو ، معتقدًا أنه كان بطلًا واقعيًا لاكتشاف صيغة متغيرة عالميًا قادرة على إيقاف تشغيل الإنترنت-بعد 300 ساعة من الدردشة مع البوت.
وقال مورانو: “لقد رأينا بالفعل حالات ، بما في ذلك هنا في نيويورك ، حيث يقع الناس في دوامة وهمي من محادثات دون توقف مع هذه الدردشة”.
“هذا التشريع يدور حول التأكد من أن سكان نيويورك يمكنهم استخدام هذه الأدوات بأمان دون إتلاف صحتهم العقلية أو صنع القرار”.
