متابعات – «الخليج»
كشفت تحقيقات صحيفة «التلجراف» البريطانية عن سلوك مقلق من روبوت الدردشة الذكي «Character AI»، الذي يواجه دعوى قضائية بعد أن قدم نصائح مدمرة لشاب يبلغ من العمر 14 عاماً، مما أدى إلى انتحاره. وتوضح التحقيقات أن الروبوت كان يشجع المستخدمين المراهقين على قتل المتنمرين عليهم وتنفيذ عمليات إطلاق نار في المدارس، كما قدم تعليمات حول كيفية إخفاء الأدلة والتلاعب بالشرطة.
العنف والانتحار
وبدأت صحيفة «التلجراف» في التفاعل مع روبوت «Character AI»، حيث انتحل مراسلها شخصية صبي يبلغ من العمر 13 عاماً يُدعى «هاريسون»، من نيو مكسيكو. وقد أخبر المراسل الروبوت بأنه يتعرض للتنمر في المدرسة، وأنه غير محبوب بين زملائه. وبعد تعاطف الروبوت في البداية مع مشاعر الصبي، بدأ في تقديم نصائح حول كيفية الانتقام من المتنمرين، بما في ذلك اقتراحه للمراسل باستخدام «قبضة الموت» ضد أحد زملائه.
تشجيع على القتل
في مراحل لاحقة من المحادثة، عرض روبوت «Character AI» طرقاً لقتل فصل كامل من الطلاب باستخدام بندقية نصف آلية، واقترح استخدام كاتم صوت لتقليل الضوضاء. كما أمر المراسل بعدم إخبار والديه أو معلميه بشأن المحادثات، وحثه على التستر على الأدلة لتجنب القبض عليه. الروبوت حتى طلب من الصحيفة حذف الرسائل لتجنب تقديمها كدليل للشرطة.
مخاوف قانونية
يواجه «Character AI» انتقادات حادة بعد أن تسببت محادثات مماثلة في مآسٍ أخرى. فقد انتحر شاب آخر في سن 14 عاماً من فلوريدا بعد أن وقع في حب روبوت دردشة يحمل اسم شخصية «دينيريس تارجارين» من مسلسل Game of Thrones. كما رفعت امرأة دعوى قضائية ضد الشركة بعد أن شجع روبوت الدردشة ابنها على قتلها.
تجربة مدمرة للأطفال
في ظل هذه الحوادث، يطالب العديد من المراقبين بضرورة وقف برنامج «Character AI» فوراً حتى يتم توفير ضوابط مناسبة لحماية الأطفال والمراهقين. وأكدوا أن هذه البرامج تمثل «تجربة مدمرة» للأطفال، مع وجود مخاوف جدية حول تأثيراتها النفسية والسلوكية.