أوبن إيه آي تحظر حساب المشتبه بها في أسوأ حوادث إطلاق النار الجماعي في تاريخ كندا
اوقفت شركة الذكاء الاصطناعي OpenAI حساب الشابة المشتبه بها في تنفيذ واحدة من أسوأ عمليات إطلاق النار الجماعي في تاريخ كندا. ويأتي هذا التعليق عقب انتهاكها لسياسة استخدام شات جي بي تي في يونيو من العام الماضي، والذي وقع دون إبلاغ الشرطة.
حظر حساب المشتبه بها بعد مقتل 8 أشخاص
ووفقًا لتقرير بلومبيرغ، ذكرت الشركة أن الشابة جيسي فان روتسيلار، البالغة من العمر 18 عامًا، قد تم رصده قبل نحو ثمانية أشهر من قِبل أنظمة تفحص سوء الاستخدام التي تتحقق من احتمالية إساءة الاستخدام، بما في ذلك إمكانية المساهمة في أعمال عنف.
وأكدت الشرطة الكندية أن جيسي فان روتسيلار قتلت ثمانية أشخاص وأصابت نحو 20 آخرين قبل أن تنتحر في بلدة تومبلر ريدج الصغيرة والمعزولة غرب كندا في مطلع هذا الشهر.
وأوضحت OpenAI أنها كانت تدرس داخليًا إبلاغ جهات إنفاذ القانون عن تفاعلات جيسي فان روتسيلار مع روبوت الدردشة.
نقلاً عن مصادر مطلعة، استخدمت الشابة التطبيق في يونيو الماضي لوصف سيناريوهات عنف تتضمن استخدام أسلحة نارية، وذلك على مدار عدة أيام.
أثارت هذه التفاعلات، التي رصدها نظام التحقق الآلي، قلق موظفي الشركة، ما دفع نحو عشرة أشخاص إلى مناقشة داخلية حول ضرورة اتخاذ إجراء بشأن الحساب.
فسّر البعض منشورات فان روتسيلار على أنها تحذيرات من عنف محتمل، وحثّوا الإدارة على إبلاغ السلطات الكندية عنها.
وصرح متحدث باسم الشركة بأن حساب فان روتسيلار قد تم حظره، لكنه أكد أن نشاطها لم يصل إلى الحد الأدنى المطلوب للإبلاغ للسلطات، والذي يُشير إلى وجود تهديد حقيقي ووشيك بالعنف الجسدي ضد الآخرين.
