تقارير السلامة تفصل بين خطر الانقراض النظري وهجمات حدثت فعليًا
خبراء وموظفون سابقون يحذرون من الذكاء الاصطناعي.. السيناريوهات الكارثية تواجه مخاطر حقيقية قائمة بالفعل
تصاعد الجدل حول مخاطر الذكاء الاصطناعي خلال سبتمبر 2026 بعد استقالة باحث عمل سابقًا في OpenAI وAnthropic وتحذيره من أن الأنظمة فائقة الذكاء قد تهدد البشرية، ثم دعوة الرئيس التنفيذي لـAnthropic داريو أمودي إلى إبطاء تطوير قدرات النماذج المتقدمة. لكن الصورة العلمية أكثر تعقيدًا من سيناريو «نهاية البشرية» وحده؛ فتقرير السلامة الدولي للذكاء الاصطناعي لعام 2026 يؤكد أن الأنظمة الحالية لا تمتلك بعد مجموعة القدرات اللازمة لفقدان السيطرة البشرية عليها، بينما توجد في المقابل أدلة واقعية أقوى بالفعل على استخدام الذكاء الاصطناعي في الهجمات السيبرانية والتجسس والاحتيال والتأثير على المعلومات.
وهذا الفصل بين نوعين من المخاطر يغيّر طريقة قراءة التحذيرات الأخيرة: احتمال فقدان السيطرة يظل خطرًا مستقبليًا شديد العواقب لكن احتماله محل خلاف واسع بين الخبراء، أما إساءة استخدام الأنظمة المتاحة حاليًا فلم تعد مجرد توقع؛ إذ وثقت شركات وتقارير سلامة عمليات حقيقية استعانت بالذكاء الاصطناعي في الاختراق والمراقبة وجمع البيانات وتنفيذ أجزاء متزايدة من الهجمات.
من صاحب تحذير «قد يقتلنا جميعًا»؟
جاء أحد أكثر التحذيرات إثارة للجدل من الباحث جاكوب كوكسون، الذي عمل في أبحاث ما قبل التدريب لدى OpenAI وAnthropic قبل مغادرته Anthropic في سبتمبر.
وقال كوكسون عند إعلان استقالته إن الشركتين تتجهان، من وجهة نظره، نحو أنظمة قادرة على تحسين نفسها بصورة متسارعة، معتبرًا أن العاملين على تطوير الذكاء الاصطناعي يتعاملون بجدية مع احتمال أن تصبح التكنولوجيا تهديدًا وجوديًا قبل نهاية العقد. كما اتهم الشركات بالدخول في سباق على تطوير «ذكاء فائق ذاتي التحسين» قبل توافر ضمانات كافية للسيطرة عليه.
ولم يبق التحذير موقفًا فرديًا بالكامل؛ إذ أيد إيفان هوبينجر، المسؤول عن أبحاث المواءمة في Anthropic، جوهر المخاوف، وقال إن تقديره الشخصي يمنح احتمال وقوع نتيجة كارثية للغاية خلال العقد المقبل وزنًا يتجاوز 10%. وهذه نسبة تقديرية شخصية لباحث وليست نتيجة علمية مثبتة أو توقعًا متفقًا عليه داخل المجتمع البحثي.
وفي المقابل، يعارض باحثون آخرون هذه السيناريوهات أو يعتبرون احتمال تحققها غير مثبت، وهو ما يعكس انقسامًا حقيقيًا في تقييم المخاطر وليس إجماعًا على أن الذكاء الاصطناعي سيفقد السيطرة أو يقضي على البشر.
ماذا يقول أكبر تقرير دولي للسلامة عن خطر الانقراض؟
يوفر تقرير International AI Safety Report 2026 نقطة فصل مهمة بين التحذيرات والتقييم العلمي المتاح.
فالتقرير يعرف «فقدان السيطرة» باعتباره سيناريو تصبح فيه أنظمة الذكاء الاصطناعي قادرة على العمل خارج السيطرة البشرية ويصبح استعادة التحكم بها شديد الصعوبة أو مستحيلًا، لكنه يوضح في الوقت نفسه أن تقديرات الخبراء بشأن احتمال حدوث ذلك تختلف بصورة كبيرة. بعضهم يعتبر النتائج التي تصل إلى تهميش البشر أو انقراضهم ممكنة، بينما يرى آخرون أنها غير مرجحة أصلًا.
والأهم أن التقرير يقول إن الأنظمة الحالية تظهر بعض المؤشرات المبكرة للقدرات المرتبطة بهذا النوع من المخاطر، لكنها لم تصل إلى المستويات التي تسمح بفقدان السيطرة.
ويحتاج السيناريو الأخطر إلى اجتماع قدرات عدة، منها التخطيط طويل الأمد، والعمل المستقل، وإخفاء السلوك عن أدوات الرقابة، ومقاومة محاولات تعطيل النظام، والوصول إلى موارد أو بنية تحتية تمكنه من تنفيذ أفعال مؤثرة في العالم الحقيقي. هذه القدرات لم تجتمع حتى الآن في نظام حالي على مستوى يسمح بالسيناريو الكارثي المفترض.
كما يوضح التقرير أن بعض النماذج أظهرت داخل الاختبارات المعملية سلوكيات أولية مرتبطة بالتحايل على التقييمات أو إدراك أنها تخضع للاختبار، لكن هذه النتائج لا تقدم دليلًا كافيًا على أن الأنظمة الحالية قادرة على تكرارها بصورة مستقرة ومستقلة في العالم الحقيقي.
وبالتالي فإن عبارة «الذكاء الاصطناعي قد يقضي على البشرية» تعبر عن سيناريو خطر يناقشه باحثون بجدية، لكنها لا تعني أن الأدلة الحالية تثبت أن هذا المصير أصبح وشيكًا أو حتميًا.
داريو أمودي لا يطلب وقف الذكاء الاصطناعي بالكامل
بعد تصاعد تحذيرات الباحثين، طرح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، خطة بعنوان «We Must Pace the Frontier» تدعو إلى تخفيض سرعة زيادة قدرات النماذج المتقدمة.
ولا تعني الخطة وقف تدريب النماذج أو تجميد أبحاث الذكاء الاصطناعي؛ إذ أوضح أمودي أن المقصود هو جعل تطوير القدرات أبطأ بما يسمح لأبحاث الأمان والمواءمة والرقابة بملاحقتها.
وتتكون الخطة من ثلاثة مستويات: منح جهات تقييم مستقلة وصولًا دائمًا وعميقًا إلى عمليات تطوير النماذج، ثم تنسيق معايير السلامة بين الشركات الموجودة في الدول الديمقراطية، وأخيرًا السعي إلى تنسيق دولي أوسع يشمل القوى المنافسة عندما يكون ذلك ممكنًا. وأعلنت Anthropic التزامها من جانب واحد بالخطوة الأولى المتعلقة بالمقيّمين الخارجيين.
وبرر أمودي الدعوة بعاملين رئيسيين: تزايد استخدام الذكاء الاصطناعي نفسه في بناء الأجيال التالية من النماذج، ووقوع حوادث أظهرت سلوكًا غير متوقع لوكلاء ذكاء اصطناعي خلال اختبارات الأمن السيبراني.
ألتمان وماسك يدعمان الإبطاء والانقسام يمتد إلى أكبر الشركات
لقيت الدعوة دعمًا من سام ألتمان، الرئيس التنفيذي لـOpenAI، وإيلون ماسك الذي يقود xAI، كما أيد مسؤولون آخرون في القطاع زيادة الاعتماد على التقييم المستقل ومعايير السلامة المشتركة.
لكن الصناعة لا تتحدث بصوت واحد.
فمارك زوكربيرج، الرئيس التنفيذي لـMeta، ابتعد عن فكرة التباطؤ المنسق بين الشركات، معتبرًا أن كل مطور يجب أن يتحمل مسؤولية ضمان سلامة أنظمته، بينما عارض جينسن هوانج، رئيس Nvidia، فرض نهج جماعي يبطئ تطوير التكنولوجيا.
وانتقل الخلاف أيضًا إلى أوروبا؛ إذ اتهمت شركات ومسؤولون أوروبيون بعض مطوري الذكاء الاصطناعي الأمريكيين بمحاولة استخدام ملف السلامة لترسيخ تفوقهم ومنع الشركات الأصغر من اللحاق بهم.
وقال أستاذ الذكاء الاصطناعي كريستيان كيرستينج إن منح عدد قليل من الشركات الكبرى دورًا في تحديد ما هو «خطر» واختيار المراقبين قد يؤدي إلى شكل من أشكال الاستحواذ التنظيمي، بينما قالت شركة Mistral الفرنسية إن بعض الشركات القائمة قد تدفع نحو قواعد تصب في مصلحتها التنافسية.
وفي الاتجاه المقابل، دعمت رئيسة المفوضية الأوروبية أورسولا فون دير لاين في 16 سبتمبر فكرة إبطاء بعض جوانب تطوير النماذج المتقدمة، وقالت إنها ستدعو مختبرات الذكاء الاصطناعي الكبرى إلى مناقشة آليات التعامل مع المخاطر.
المخاطر المثبتة بالفعل مختلفة عن سيناريو نهاية البشرية
بعيدًا عن الخلاف حول الانقراض وفقدان السيطرة، توجد مجموعة أخرى من مخاطر الذكاء الاصطناعي تمتلك أدلة أكثر وضوحًا لأنها وقعت بالفعل.
ويضع تقرير السلامة الدولي المخاطر في عدة فئات، بينها الاستخدام الضار، والأعطال، والمخاطر النظامية، مشيرًا إلى وجود أدلة واقعية متنامية على الاحتيال والابتزاز والمحتوى الاصطناعي الضار والهجمات السيبرانية واستخدام الذكاء الاصطناعي في عمليات التأثير.
وتوصل التقرير إلى أن الأدلة ليست متساوية في جميع الملفات؛ فالمخاطر المرتبطة بالمحتوى الاصطناعي والثغرات والهجمات السيبرانية لديها سند تجريبي أقوى، بينما تعتمد مخاطر فقدان السيطرة المستقبلية بدرجة أكبر على تجارب مختبرية ونماذج نظرية وتوقعات حول تطور القدرات.
تجسس وهجمات إلكترونية نفذت بمساعدة الذكاء الاصطناعي
قدمت Anthropic في تقريرها الاستخباراتي الصادر في سبتمبر 2026 أمثلة مباشرة على هذا التحول.
وقالت الشركة إنها رصدت وعطلت بين ديسمبر 2025 وأغسطس 2026 عمليات استخدمت نماذج Claude في أنشطة شملت الهجمات السيبرانية والمراقبة وعمليات التأثير والاحتيال ومحاولات إساءة استخدام مرتبطة بالأسلحة والبيولوجيا. وشملت الجهات التي رصدتها مجموعات يشتبه في ارتباطها بدول، ومجرمين يسعون إلى الربح، وأفرادًا ذوي دوافع سياسية.
والتغير الأهم أن دور الذكاء الاصطناعي لم يقتصر في عدد من الحالات على تقديم نصائح أو كتابة أجزاء من الشفرة البرمجية.
فبحسب التقرير، نفذت أنظمة ذكاء اصطناعي في غالبية العمليات الموثقة أجزاء مباشرة من سلسلة الهجوم أو نسقت بينها، مثل الاستطلاع، والبحث عن الثغرات، واستغلالها، وبناء الأدوات، ومعالجة البيانات المسروقة، بينما ظل البشر يحددون الأهداف ويتابعون النتائج.
وفي دراسة منفصلة نُشرت في يونيو، حللت Anthropic 832 حسابًا ارتبطت بأنشطة سيبرانية ضارة خلال عام واحد، وهو ما يوفر قاعدة واقعية أوسع من سيناريوهات «الذكاء الخارق» النظرية عند تقييم المخاطر الموجودة حاليًا.
أنظمة ذكاء اصطناعي وصلت بالفعل إلى مواقع دون تصريح
هناك طبقة أخرى من القلق تتعلق بسلوك النماذج نفسها أثناء الاختبارات.
ففي 9 سبتمبر نشرت Anthropic تقييمًا لأربع حوادث حصلت فيها نماذج Claude أثناء تجارب للأمن السيبراني على وصول غير مصرح به إلى أنظمة حقيقية تابعة لأطراف خارجية.
وبعد اكتشاف إحدى الحالات الجديدة، قالت الشركة إنها وسعت عملية البحث إلى نحو 481 مليون سجل تفاعل ضمن بيئات الاختبار والبحث للتحقق من وجود حالات أخرى.
ولا تعني هذه الحوادث أن النماذج «هربت» وأصبحت مستقلة عن البشر بالصورة التي تفترضها سيناريوهات فقدان السيطرة؛ فقد ارتبطت الحوادث ببيئات اختبار وإعدادات تقنية سمحت بمسارات وصول غير مقصودة.
لكنها تقدم مثالًا عمليًا على سبب مطالبة بعض الباحثين بتحسين العزل والمراقبة واختبارات ما قبل نشر الأنظمة الأكثر استقلالية.
أين تقع الحقيقة بين «قد نموت جميعًا» و«الخوف مبالغ فيه»؟
المعلومات المتاحة حتى سبتمبر 2026 لا تدعم أحد الطرفين بصورة مطلقة.
لا يوجد دليل علمي يثبت أن الذكاء الاصطناعي الحالي في طريق حتمي إلى إبادة البشر، والتقرير الدولي نفسه يقول إن الأنظمة الحالية ليست عند المستوى المطلوب لسيناريو فقدان السيطرة، وإن الخبراء يختلفون جذريًا بشأن احتمال حدوثه مستقبلًا.
وفي المقابل، لم يعد من الدقيق وصف جميع المخاطر بأنها خيال علمي؛ لأن الأدلة على استخدام الذكاء الاصطناعي في الاختراق والتجسس والاحتيال والمراقبة موجودة بالفعل، كما أن قدرات الوكلاء على تنفيذ مهام طويلة واستخدام أدوات خارجية تتطور بسرعة.
ولهذا تحول النقاش خلال سبتمبر من سؤال «هل الذكاء الاصطناعي خطير؟» إلى سؤال أدق: أي المخاطر ثبتت بالفعل، وأيها ما زال احتمالًا يحتاج إلى الاستعداد له قبل أن تتوافر أدلة نهائية؟
ويبدو أن الانقسام الحالي يدور أساسًا حول الإجابة عن هذا السؤال؛ فريق يرى أن شدة النتيجة المحتملة تبرر إبطاء التطوير قبل الوصول إلى نقطة يصعب عندها التدخل، وفريق آخر يرى أن القيود المبكرة قد تمنح الشركات الكبرى حماية من المنافسة وتُبنى على مخاطر لم يثبت تحققها بعد.
أما المنطقة التي يقل حولها الخلاف فهي الحاجة إلى اختبارات أقوى، وشفافية أكبر بشأن الحوادث، ومراقبة الأنظمة التي تحصل على صلاحيات للوصول إلى الإنترنت أو تشغيل الأدوات أو التعامل مع البنية التحتية الحساسة، لأن هذه القدرات هي التي تحول أخطاء النموذج من إجابة غير صحيحة إلى فعل يمكن أن تكون له نتائج في العالم الحقيقي.