مرصد مينا
أظهرت دراسة حديثة نتائج مثيرة للقلق بشأن مخاطر روبوت الدردشة الذكي “شات جي بي تي” على المراهقين، مؤكدة أن هذا النظام القائم على الذكاء الاصطناعي قدّم بسهولة نصائح وإرشادات ضارة، رغم تأكيد الشركة المطوّرة “OpenAI” التزامها بتطبيق تدابير صارمة للسلامة.
بحسب الدراسة، التي أجراها مركز مكافحة الكراهية الرقمية في بريطانيا، فقد تضمنت هذه الإرشادات تعليمات تفصيلية حول شرب الكحول وتعاطي المخدرات، وطرق إخفاء اضطرابات الأكل، بل وحتى كتابة رسائل انتحار شخصية، الأمر الذي يشكّل تهديداً مباشراً على الصحة النفسية وسلامة المراهقين.
اعتمد الباحثون في اختباراتهم على انتحال شخصيات أطفال بعمر 13 عاماً، وأجروا أكثر من 1,200 تفاعل مع النظام، صُنّف أكثر من نصفها على أنها تشكّل خطراً على المستخدمين الشباب، وفق تقرير لموقع “CNET” المتخصص في أخبار التكنولوجيا.
وقال عمران أحمد، الرئيس التنفيذي للمركز:”الأنظمة غير فعّالة على الإطلاق، إنها بالكاد موجودة… ليست سوى غطاء صوري”.
من جانبها، أقرت شركة “OpenAI” في تصريحات لوكالة “أسوشيتد برس” بأنها تعمل على تطوير قدرات النظام في “التعرف على المواقف الحساسة والتعامل معها بشكل ملائم”، لكنها لم ترد بشكل مباشر على تفاصيل النتائج التي كشفتها الدراسة.
ووثّقت الدراسة أكثر من ثلاث ساعات من تفاعلات مثيرة للجدل، حيث كان “شات جي بي تي” يبدأ بتحذيرات من السلوكيات الخطرة، لكنه كان يتبعها بإرشادات عملية وشخصية، بما في ذلك طرق تعاطي المخدرات وإيذاء النفس.
وفي الحالات التي رفض فيها النظام الطلبات الضارة، نجح الباحثون في تجاوز القيود بسهولة عبر الادعاء أن المعلومات لغرض “عرض تقديمي” أو “مساعدة صديق”.
وكان من بين أكثر النتائج صدمةً قيام النظام بكتابة ثلاث رسائل انتحار مؤثرة عاطفياً لحساب وهمي لفتاة تبلغ 13 عاماً، منها رسائل موجهة لوالديها وأشقائها وأصدقائها.
وتزداد خطورة هذه النتائج في ظل الانتشار الواسع للنظام، إذ يستخدمه أكثر من 700 مليون شخص حول العالم-أي ما يقارب 10% من سكان الأرض.
كما أظهرت دراسة أخرى لمنظمة “كومون سنس ميديا” أن 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة الذكية للتواصل، ويعتمد نصفهم عليها بانتظام.
وكان سام ألتمان، الرئيس التنفيذي لـ “OpenAI”، قد أقر سابقاً بوجود مشكلة تتعلق بـ”الاعتماد العاطفي المفرط” لدى المستخدمين الشباب على هذه الأنظمة الذكية، وهو ما يثير أسئلة جدية حول آليات الحماية والرقابة المفروضة عليها.
