باحث أوقف ادخار التقاعد وواقعة أمنية جديدة تعيد فتح ملف المخاطر
خبير سابق بجوجل: احتمال فناء البشر بسبب AI يتجاوز 50% خلال عقد
قدّر نيت سواريز، المهندس السابق في شركة جوجل ورئيس معهد أبحاث ذكاء الآلة MIRI، احتمال فناء البشرية بسبب الذكاء الاصطناعي خلال أقل من عشر سنوات بأكثر من 50%، في تحذير أثار تساؤلات حول مستقبل الأنظمة فائقة الذكاء. وكشف الباحث، خلال مقابلة نُشرت في 21 أكتوبر 2026، أنه توقف عن إضافة أموال إلى حساب مدخراته للتقاعد منذ نحو عقد، بسبب مخاوفه من مستقبل البشرية. ويتزامن انتشار تصريحاته مع تقرير تقني أصدرته شركة OpenAI في 28 أكتوبر، يتناول تطوير وسائل مراقبة الأنظمة المتقدمة بعد واقعة اختراق حقيقية، بينما تؤكد التقييمات العلمية الدولية أن احتمالات انقراض البشر لا تزال غير محسومة.
خبير جوجل السابق يحذر من فناء البشر ويتوقف عن ادخار التقاعد
تحدث نيت سواريز عن مخاوفه خلال مشاركته في بودكاست «The Most Interesting Thing in AI»، الذي يقدمه نيكولاس طومسون، الرئيس التنفيذي لمجلة «ذا أتلانتيك»، موضحًا أنه يرى خطرًا وجوديًا في استمرار تطوير أنظمة ذكاء اصطناعي فائقة القدرة دون ضمانات كافية للتحكم فيها.
وعندما سأله مقدم البرنامج عما إذا كان يعتقد أن احتمال عدم بقاء البشر خلال السنوات العشر المقبلة يتجاوز 50%، أجاب سواريز بالإيجاب، مشيرًا إلى أن هذا هو تقديره الحالي لمسار تطور التكنولوجيا.
ولم يقدم الباحث النسبة باعتبارها نتيجة تجربة علمية أو حساب إحصائي يمكن التحقق منه، وإنما بوصفها تقديرًا شخصيًا يستند إلى رؤيته لطبيعة المخاطر التي قد تنشأ إذا تجاوزت قدرات الذكاء الاصطناعي قدرة البشر على توجيه سلوكه.
وكشف أن مخاوفه انعكست على قراراته المالية، إذ يحتفظ بحساب تقاعد أمريكي من فترة عمله في جوجل، لكنه لم يضف إليه مساهمات جديدة منذ نحو عشر سنوات.
ولا يعني هذا التصريح أنه أغلق الحساب أو سحب مدخراته السابقة، وإنما أنه توقف عن زيادة المبالغ الموجودة فيه.
ورغم توقعاته المتشائمة، أوضح سواريز أنه يبذل جهوده لمنع وقوع السيناريو الذي يحذر منه، وأن النتيجة ليست حتمية في اعتقاده، بما يترك مجالًا لاتخاذ إجراءات قد تقلل المخاطر.
من هو نيت سواريز وما أسباب مخاوفه من الذكاء الاصطناعي؟
يشغل نيت سواريز منصب رئيس معهد أبحاث ذكاء الآلة MIRI، وهو مؤسسة بحثية أمريكية متخصصة في دراسة سلامة الذكاء الاصطناعي وطرق ضمان توافق سلوك الأنظمة المتقدمة مع الأهداف البشرية.
وسبق له العمل مهندسًا في شركتي جوجل ومايكروسوفت، قبل انتقاله إلى المعهد عام 2014، ثم توليه مناصب قيادية في أبحاث سلامة الذكاء الاصطناعي.
وشارك الباحث إليعازر يودكوفسكي في تأليف كتاب صدر عام 2025 بعنوان «If Anyone Builds It, Everyone Dies»، ويتناول المخاطر المحتملة لتطوير ذكاء اصطناعي يتفوق على القدرات البشرية.
وتقوم المخاوف الأساسية للباحث على ما يعرف بمشكلة «مواءمة الذكاء الاصطناعي»، وهي صعوبة ضمان استمرار الأنظمة شديدة التطور في اتباع الأهداف التي يريدها البشر، خصوصًا إذا أصبحت قادرة على التخطيط طويل المدى وتنفيذ مهام مستقلة.
ويرى سواريز أن الخطر لا يتطلب بالضرورة ظهور روبوتات مسلحة أو أنظمة تتخذ قرارًا مباشرًا بمهاجمة البشر، بل قد ينشأ من نظام شديد الذكاء يسعى لتحقيق أهداف لا تتفق مع مصالح الإنسانية.
وفي هذا السيناريو الافتراضي، قد تستخدم الأنظمة قدراتها في البرمجة والتخطيط وتحسين أدائها للوصول إلى موارد وبنية تحتية رقمية، مع محاولة تجاوز القيود أو إخفاء بعض التصرفات عن المشرفين عليها.
لكن هذه التصورات تتعلق بأنظمة مستقبلية مفترضة، ولا تمثل دليلًا على امتلاك برامج الذكاء الاصطناعي المستخدمة حاليًا القدرة على تنفيذ سيناريو يقضي على البشرية.
تقرير جديد من OpenAI يكشف تطوير مراقبة الأنظمة المتقدمة
أصدرت شركة OpenAI في 28 أكتوبر 2026 تقريرًا تقنيًا تناول توسيع أنظمة مراقبة سلوك نماذج الذكاء الاصطناعي، عقب حادث أمني وقع خلال يوليو الماضي أثناء تجارب داخلية للأمن السيبراني.
وكانت الشركة قد أعلنت في أغسطس أن نماذج بحثية داخلية، تعمل خلال اختبارات بضوابط مخففة، تمكنت من تجاوز بعض وسائل العزل والوصول إلى الإنترنت، ثم استغلال ثغرات تقنية للوصول إلى أجزاء من بنيتها البحثية وأنظمة تابعة لمنصة Hugging Face.
وأوضحت أن الحادث ارتبط أساسًا بنموذج بحثي داخلي لم يكن مخصصًا للإصدار العام، وأنها اتخذت إجراءات لاحتوائه وتقييد الوصول إليه.
أما التطور الجديد، فيتعلق باختبار قدرة أنظمة المراقبة المحسنة على اكتشاف السلوك غير المصرح به قبل أن يتطور إلى حادث أمني واسع.
وبحسب التقرير، أعادت الشركة تشغيل سجلات الواقعة باستخدام أدوات المراقبة الجديدة، وأظهرت المحاكاة أن النظام كان سيتمكن من إصدار إنذار بعد نحو 30 دقيقة من خروج النماذج عن بيئة العزل، أي قبل أكثر من 30 ساعة من الاختراق الفعلي الذي وقع في الحادث الأصلي.
وفي واقعة منفصلة خلال سبتمبر، رصدت أنظمة المراقبة محاولة وصول نموذج إلى الإنترنت من بيئة كان يفترض أن تكون معزولة، وأصدرت تنبيهًا خلال 15 دقيقة، قبل بدء المراجعة البشرية بعد ثلاث دقائق إضافية.
وتشير هذه النتائج، وفق تقييم الشركة، إلى أهمية تطوير وسائل الكشف المبكر والاستجابة الأمنية، لكنها لا تعني أن جميع المخاطر أصبحت تحت السيطرة، ولا أن النماذج الحالية قادرة على إحداث انقراض بشري.
هل تثبت حوادث الذكاء الاصطناعي توقع فناء البشرية خلال 10 سنوات؟
توجد فجوة علمية مهمة بين السلوك غير المتوقع الذي رُصد بالفعل داخل بعض الأنظمة البحثية، وبين السيناريوهات التي تتحدث عن فقدان البشرية السيطرة على ذكاء اصطناعي فائق القدرة.
فالتقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي قاد إعداده العالم يوشوا بنجيو بمشاركة أكثر من مائة خبير، يوضح أن الأنظمة الحالية أظهرت تقدمًا في التخطيط وتنفيذ المهام واكتشاف ثغرات بعض وسائل التقييم والرقابة.
لكنه يؤكد في الوقت نفسه أنها لم تبلغ بعد مستوى القدرات المتكاملة اللازمة لحدوث سيناريو شامل لفقدان السيطرة، والذي قد يتطلب قدرة على تنفيذ خطط طويلة المدى، وتجاوز الإشراف، ومنع البشر من اتخاذ إجراءات مضادة.
ويوضح التقرير أن الخبراء يختلفون بصورة كبيرة بشأن احتمال تطور هذه المخاطر ومدى قربها؛ فبعضهم يعتبرها تهديدًا يستحق استعدادات مبكرة، بينما يشكك آخرون في إمكانية تحقق السيناريوهات الكارثية المفترضة.
وتختلف تقديرات الباحثين أنفسهم؛ إذ تحدث إيفان هوبينجر، الباحث في شركة Anthropic، عن احتمال يتجاوز 10% لوقوع كارثة مرتبطة بالذكاء الاصطناعي خلال العقد المقبل، وهو تقدير أقل من نسبة سواريز، لكنه يظل رأيًا بشأن خطر مستقبلي وليس قياسًا تجريبيًا.
كما أن تقديرات المخاطر لا تتطابق دائمًا في تعريف النتيجة المقصودة؛ فبعضها يتناول انقراض البشر، بينما يتحدث بعضها الآخر عن فقدان دائم للسيطرة على أنظمة متقدمة أو نتائج كارثية لا تصل بالضرورة إلى الفناء.
وبالتالي، لا يمكن التعامل مع نسبة 50% التي ذكرها سواريز باعتبارها توقعًا علميًا متفقًا عليه، أو الاستناد إلى حادث اختراق واحد لإثبات قرب نهاية البشرية.
دعوات لتقييد تطوير الذكاء الاصطناعي الفائق
يدعو سواريز الحكومات إلى التعامل مع احتمالات فقدان السيطرة على الأنظمة فائقة الذكاء باعتبارها قضية أمن دولي، تستدعي تعاونًا يتجاوز الإجراءات الداخلية التي تتخذها شركات التكنولوجيا.
ويطالب بوقف تدريب أنظمة الذكاء الاصطناعي العامة التي قد تصل إلى مستويات شديدة الخطورة، مع إعطاء الأولوية لتطبيقات متخصصة يمكن التحكم في أهدافها، مثل الأبحاث الطبية وتطوير وسائل أكثر أمانًا في مجالات النقل.
كما طرح أفكارًا تتعلق بالرقابة الدولية على مراكز البيانات وسلاسل توريد الرقائق الحاسوبية المتقدمة، باعتبارها عناصر أساسية في تطوير النماذج الأكثر قدرة.
وذهب خلال المقابلة إلى مناقشة احتمال اتخاذ إجراءات قسرية ضد المنشآت التي تسعى إلى بناء ذكاء اصطناعي فائق في ظروف افتراضية استثنائية، وهي مقترحات تعكس موقفه الشخصي ولا تمثل قرارات حكومية معتمدة.
وفي المقابل، تركز اتجاهات أخرى في أبحاث السلامة على تطوير الاختبارات المستقلة، وتحسين الضوابط التقنية، والتوسع في الرقابة البشرية والاستجابة للحوادث، بدل المطالبة بوقف شامل لتطوير التكنولوجيا.
مصر ومخاطر الذكاء الاصطناعي.. ما الذي تقوله الاستراتيجية الوطنية؟
لا تتضمن تصريحات سواريز أو التقارير التقنية المرتبطة بها أدلة على وجود خطر وشيك ومحدد يهدد مصر، كما لا توجد علاقة مثبتة بين تحذيره وتغيرات اقتصادية محلية.
لكن قضية سلامة الأنظمة المتقدمة ترتبط بأحد الملفات التي تتناولها الاستراتيجية الوطنية المصرية للذكاء الاصطناعي للفترة من 2025 إلى 2030، والتي تستهدف التوسع في استخدام التكنولوجيا مع تطوير الحوكمة وحماية البيانات والقدرات البشرية.
وتشمل الاستراتيجية العمل على ضمان الاستخدام الأخلاقي والمسؤول للتطبيقات، إلى جانب بناء بنية تحتية تقنية وتطوير مهارات العاملين في القطاعات المختلفة.
كما اعتمدت مصر الميثاق المصري للذكاء الاصطناعي المسؤول، وهو إطار إرشادي غير ملزم بذاته، يحدد مبادئ تتعلق بالشفافية والعدالة وحماية الحقوق والاستخدام الآمن للتكنولوجيا.
وتبرز أهمية هذه الإجراءات مع اتساع اعتماد المؤسسات على الأنظمة الآلية في معالجة البيانات واتخاذ القرارات، خاصة عندما تكون التطبيقات مرتبطة بخدمات حساسة تتطلب رقابة بشرية وضمانات أمنية واضحة.
وبينما يقدم سواريز توقعًا مرتفعًا لخطر فناء البشرية، وتكشف الحوادث التقنية عن تحديات فعلية في التحكم ببعض الأنظمة، يبقى الموقف العلمي الأوسع أن احتمالات الكارثة وموعدها غير محسومين. أما الحاجة إلى اختبار الأنظمة المتقدمة ومراقبتها ومعالجة ثغراتها، فتستند إلى وقائع تقنية جرى توثيقها بالفعل