تحقيق أمريكي ورد رسمي وتحركات رقابية بشأن المحتوى الاصطناعي
فيديوهات خادشة ومشاهد عنيفة على تيك توك.. تحقيق يكشف ثغرات في حماية الأطفال
فيديوهات خادشة ومشاهد عنيفة بالذكاء الاصطناعي على تيك توك أثارت مخاوف جديدة بشأن سلامة الأطفال والمراهقين، بعدما رصد تحقيق صحفي أمريكي نُشر الأربعاء 4 نوفمبر 2026 انتشار مقاطع درامية قصيرة ومحتوى ترويجي يتضمن إيحاءات جنسية ومشاهد صادمة، بعضها مصنوع باستخدام تقنيات الذكاء الاصطناعي. وتكمن خطورة ما كشفه التحقيق في احتمال تعرض مستخدمين صغار السن لمحتوى غير مناسب عبر المنصة التي تسمح بإنشاء الحسابات اعتبارًا من عمر 13 عامًا. وفي المقابل، أكدت تيك توك امتلاكها قواعد تحظر المحتوى الجنسي الصريح والإعلانات المخالفة، وأوضحت أنها اتخذت إجراءات بشأن بعض المقاطع التي عرضها عليها الصحفيون. ويتزامن ذلك مع تحقيق تنظيمي بريطاني مستمر بشأن فعالية إجراءات حماية الأطفال والتحقق من أعمار المستخدمين.
فيديوهات خادشة ومشاهد عنيفة على تيك توك تثير مخاوف بشأن الأطفال
رصد التحقيق المنشور بصحيفة نيويورك بوست الأمريكية ظهور مقاطع قصيرة تتضمن مشاهد غير مناسبة للقاصرين، بينها محتوى جنسي إيحائي وأعمال درامية مصنوعة بالذكاء الاصطناعي تعرض مواقف عنيفة أو علاقات خيالية مثيرة للجدل.
وتظهر بعض هذه المقاطع في صورة حلقات درامية سريعة، بينما يرتبط بعضها الآخر بالترويج لتطبيقات خارجية تقدم خدمات إنتاج الصور والفيديوهات باستخدام تقنيات الذكاء الاصطناعي.
وتنبع المخاوف من طبيعة نظام عرض الفيديوهات القصيرة، إذ تعتمد صفحة «لك» على توصيات مخصصة تستند إلى أنماط مشاهدة المستخدم وتفاعله، ما يثير تساؤلات بشأن قدرة أنظمة التصنيف على منع اقتراح المحتوى الحساس للحسابات الأصغر سنًا.
لكن التحقيق لا يقدم إحصاءً شاملًا لعدد الأطفال الذين شاهدوا تلك الفيديوهات بالفعل، ولا يثبت وصول جميع الأمثلة التي رصدها إلى حسابات قاصرين.
ولذلك، فإن الخطر الذي تكشفه الواقعة يتعلق بإمكانية وصول المحتوى غير المناسب إلى الأطفال، ومدى كفاءة الضوابط القائمة، وليس إثبات غياب الرقابة نهائيًا عن المنصة.
كيف تنتشر المسلسلات القصيرة المصنوعة بالذكاء الاصطناعي؟
يرتبط جزء من المقاطع التي تناولها التحقيق بصناعة الدراما القصيرة، وهي أعمال تقدم حلقات عمودية سريعة صُممت لتناسب المشاهدة عبر الهواتف المحمولة.
وتتراوح مدة بعض هذه الحلقات بين دقيقة ودقيقتين، وتعتمد على أحداث متلاحقة ونهايات مشوقة لجذب المشاهدين إلى متابعة الأجزاء التالية.
وتعود جذور هذا النموذج إلى صناعة الدراما القصيرة في الصين، التي تطورت إلى نشاط تجاري واسع يعتمد على التطبيقات المتخصصة والاشتراكات والإعلانات الرقمية.
وقدرت التغطية الأمريكية حجم سوق الدراما القصيرة الصينية بنحو 14 مليار دولار، وهو تقدير يتعلق بالصناعة عمومًا، وليس بقيمة الفيديوهات المخالفة التي رصدها التحقيق على تيك توك.
وتتيح أدوات الذكاء الاصطناعي إنتاج شخصيات ومشاهد ومؤثرات بصرية دون الحاجة إلى تصوير جميع اللقطات باستخدام ممثلين حقيقيين، ما يقلل بعض تكاليف الإنتاج ويسرع نشر المقاطع.
ولا تمثل هذه التقنية مخالفة في حد ذاتها، لكن المشكلة تظهر عندما يُستخدم الإنتاج الاصطناعي لتقديم محتوى جنسي أو عنيف غير مناسب للفئات الصغيرة، أو عندما تُستغل صور أشخاص حقيقيين دون موافقتهم.
رد تيك توك الرسمي على الفيديوهات التي رصدها التحقيق
قدمت تيك توك ردًا على استفسارات الصحيفة الأمريكية بشأن الأمثلة التي رصدتها، معترضة على وصف جميع المقاطع بأنها إعلانات مدفوعة.
وأوضح المتحدث باسم المنصة، زاكاري كايزر، أن مراجعة المواد التي أرسلتها الصحيفة لم تكشف عن إعلانات نشطة مطابقة لذلك الوصف، وأن معظم الأمثلة كانت منشورات رفعها مستخدمون عاديون أو مواد مرتبطة بحسابات على المنصة.
وأشار رد الشركة إلى حذف أحد المقاطع المشار إليها، ووضع قيود على انتشار مقطعين آخرين بعد المراجعة.
وأكدت تيك توك أن سياساتها تمنع الإعلانات التي تحتوي على مشاهد جنسية صريحة أو إيحاءات غير مناسبة، وتحظر الترويج لخدمات إنتاج المحتوى الجنسي باستخدام الذكاء الاصطناعي.
كما أوضحت أن المحتوى المصنف باعتباره حساسًا أو صادمًا لا يكون مؤهلًا للتوصية به عبر صفحة «لك» وفق قواعدها المعلنة.
ويكشف الرد عن فارق مهم بين وجود قواعد لحماية المستخدمين وبين نجاح تطبيقها على كل مقطع منشور؛ فإزالة مادة أو تقييد انتشارها بعد الإبلاغ عنها لا يثبت أنها لم تظهر لمستخدمين قبل اتخاذ الإجراء.
وفي الوقت نفسه، لا يصح وصف المنصة بأنها تسمح رسميًا بنشر المحتوى الجنسي الصريح، لأن قواعدها المنشورة تحظره صراحة.
بحث تقني يكشف الترويج لتطبيقات التزييف العميق عبر تيك توك
تدعم المخاوف المتعلقة باستخدام الذكاء الاصطناعي نتائج بحث نشرته شركة Copyleaks المتخصصة في كشف المحتوى الاصطناعي بتاريخ 1 أبريل 2026.
وأوضحت الشركة أنها راجعت مئات الفيديوهات المنشورة عبر تيك توك، ورصدت محتوى ترويجيًا لخدمات تتيح إنشاء صور ومقاطع مزيفة ذات طابع جنسي باستخدام صور أشخاص حقيقيين.
وتضمنت الأمثلة التي وثقها الباحثون إعلانات تقدم أدوات لتغيير مظهر الأشخاص أو إنتاج مشاهد اصطناعية دون موافقة أصحاب الصور الأصلية.
وأشار البحث إلى أن بعض المواد الترويجية حققت آلاف المشاهدات، وأن أحد الأمثلة سجل أكثر من 140 ألف مشاهدة وفق الأرقام الظاهرة وقت الرصد.
ولا تعني هذه المشاهدات أن جميع المستخدمين شاهدوا المحتوى نفسه، أو أن العدد يمثل أطفالًا أو مراهقين، لكنه يوضح حجم الانتشار الذي يمكن أن تحققه المواد الترويجية المخالفة.
وفي بحث آخر نشرته Copyleaks يوم 18 أغسطس 2026، قالت الشركة إنها عثرت خلال ستة أشهر على ما يقرب من 50 تطبيقًا في متجر آبل تدعي توفير خدمات لإنشاء صور أو فيديوهات جنسية مزيفة.
وأوضحت أن الإعلانات المعروضة على تيك توك كانت إحدى الوسائل الرئيسية التي قادتها إلى اكتشاف تلك التطبيقات.
ويبرز هذا الجانب أن الخطر لا يقتصر على المشاهد التي تظهر داخل التطبيق، بل يمتد إلى احتمال انتقال المستخدم من فيديو ترويجي إلى خدمة خارجية قد تُستخدم لانتهاك خصوصية الآخرين.
تحقيق جديد يكشف وصول تطبيقات خطيرة إلى حسابات مسجلة بأعمار 13 عامًا
شهد أكتوبر 2026 تطورًا آخر يتعلق بحماية القاصرين من تطبيقات التزييف العميق، بعد نتائج تحقيق أجرته مؤسسة Tech Transparency Project الأمريكية.
واستخدم الباحثون أربعة حسابات اختبار مسجلة على أنها تخص مستخدمين تبلغ أعمارهم 13 عامًا، اثنان على متجر آبل واثنان على متجر جوجل بلاي.
وتمكن الباحثون باستخدام هذه الحسابات من تنزيل 135 تطبيقًا تحتوي على خصائص تسمح بإنتاج صور جنسية مزيفة أو التلاعب بصور أشخاص حقيقيين.
وشملت التجربة حسابات فُعّلت عليها إعدادات الرقابة الأبوية، ومع ذلك أمكن تنزيل تطبيقات صُنفت باعتبارها مناسبة للأعمار الصغيرة.
وأظهر التحقيق أن بعض التطبيقات حملت تصنيفات عمرية لا تتناسب مع طبيعة الوظائف التي تقدمها، وأن إجراءات التحقق من العمر لم تكن كافية لمنع تنزيلها في جميع الحالات المختبرة.
وهذه النتائج تخص متاجر التطبيقات وإجراءات الرقابة الخاصة بها، ولا تعني أن 135 تطبيقًا ظهرت داخل تيك توك أو أن أطفالًا حقيقيين نزلوها خلال التجربة.
لكنها تكشف ثغرة مرتبطة بسلسلة الوصول إلى المحتوى، تبدأ أحيانًا من إعلان أو مقطع ترويجي وتنتهي بتنزيل تطبيق خارجي لا تتوافق خصائصه مع العمر المعلن للمستخدم.
وردت آبل وجوجل على نتائج التحقيق بالتأكيد على حظر التطبيقات التي تنتهك سياساتهما، والإشارة إلى اتخاذ إجراءات بحق بعض التطبيقات المخالفة.
أكثر من 400 تطبيق وموقع بخصائص خفية.. تطور جديد في نوفمبر
أضاف تحقيق تقني نُشر مطلع نوفمبر 2026 بُعدًا جديدًا إلى ملف تطبيقات التزييف العميق، بعدما كشف عن شبكة تضم أكثر من 400 تطبيق وموقع إلكتروني تبدو ظاهريًا كأنها تقدم خدمات عادية.
وشملت الخدمات المعلنة لبعض هذه التطبيقات تعديل صور الحيوانات الأليفة، وأدوات تعلم اللغات، وبرامج التدريب الرياضي، قبل أن تكشف الاختبارات عن وجود وظائف خفية لإنشاء صور ومشاهد جنسية مزيفة.
وأظهر التحقيق أن بعض التطبيقات تعتمد على تحميل واجهات مختلفة وفق طريقة وصول المستخدم إليها، ما يجعل النسخة التي يراجعها متجر التطبيقات مختلفة عن الخصائص التي قد تظهر لاحقًا.
وتوصل الباحثون إلى روابط تقنية بين التطبيقات ومطورين وجهات تعمل من الصين وهونج كونج، مع الاشتباه في وجود شبكة تجارية منظمة لنشر هذه الخدمات.
وأعلنت آبل إزالة 19 تطبيقًا عقب إطلاعها على نتائج التحقيق، بينما قالت شركة ميتا إنها اتخذت إجراءات واسعة ضد حسابات وصفحات وإعلانات مرتبطة بالشبكة.
لكن الإعلانات التي تناولها هذا التحقيق ظهرت بصورة أساسية على فيسبوك وإنستجرام، وليس تيك توك، ولذلك لا يجوز نسب التطبيقات الأربعمئة إلى المنصة الأخيرة باعتبارها المصدر الوحيد لانتشارها.
وتبرز أهمية هذا التطور في أن حماية الأطفال من المحتوى الاصطناعي أصبحت قضية تتعلق بمنظومة أوسع تضم شبكات التواصل ومتاجر التطبيقات والجهات المطورة للأدوات نفسها.
تحقيق رسمي في بريطانيا بشأن حماية الأطفال على تيك توك
تواجه تيك توك تدقيقًا تنظيميًا مباشرًا في المملكة المتحدة، بعد فتح هيئة تنظيم الاتصالات البريطانية «أوفكوم» تحقيقًا رسميًا يوم 16 يوليو 2026 بشأن مدى التزام الشركة بواجباتها القانونية لحماية الأطفال من المحتوى الضار.
ويركز التحقيق على كفاءة الإجراءات المستخدمة للتحقق من أعمار المستخدمين، وقدرة المنصة على التمييز بين حسابات الأطفال والبالغين، ومدى فعالية وسائل الحماية المطبقة على المحتوى الذي يظهر للقاصرين.
ويستند التحقيق إلى المادة 12 من قانون السلامة عبر الإنترنت البريطاني لعام 2023، الذي يفرض التزامات محددة على الخدمات الرقمية التي يُحتمل أن يستخدمها الأطفال.
وفي تحديث رسمي نشرته أوفكوم يوم 22 أكتوبر 2026، أكدت الهيئة أنها تراجع التعديلات التي أعلنتها تيك توك على إرشادات مجتمعها في سبتمبر، وأنها طلبت معلومات ووثائق من الشركة باستخدام صلاحياتها التنظيمية.
وشددت الهيئة على أن التحقيق لا يزال جاريًا، وأنها لم تصل بعد إلى نتيجة نهائية تثبت التزام تيك توك أو مخالفتها للقانون.
وبموجب القانون البريطاني، قد تصل الغرامات عند ثبوت المخالفات إلى 18 مليون جنيه إسترليني أو 10% من الإيرادات العالمية المؤهلة للشركة، أيهما أكبر.
لكن هذا الحد يمثل عقوبة محتملة يسمح بها القانون، وليس غرامة صدرت بالفعل بحق تيك توك في التحقيق الجاري.
ولا يمتد تطبيق القانون البريطاني تلقائيًا إلى المستخدمين في مصر، لكنه يقدم نموذجًا للالتزامات التنظيمية التي تواجهها المنصات بشأن حماية الأطفال.
هل تسمح تيك توك للأطفال باستخدام المنصة؟
تحدد تيك توك الحد الأدنى العام لإنشاء الحسابات بعمر 13 عامًا في معظم الأسواق، مع وجود قواعد محلية أو تجارب خاصة في بعض المناطق.
وتطبق المنصة إعدادات خصوصية افتراضية على حسابات المستخدمين الذين تتراوح أعمارهم بين 13 و15 عامًا، بما يشمل جعل الحسابات خاصة عند إنشائها.
كما تفرض قيودًا على الرسائل المباشرة وبعض خصائص التفاعل وفق الفئة العمرية، وتوفر أدوات للتحكم في وقت الاستخدام ونوعية المحتوى المقترح.
وتتيح المنصة للوالدين ربط حساباتهما بحسابات أبنائهما المراهقين من خلال خاصية الاقتران العائلي، لإدارة مجموعة من إعدادات السلامة والخصوصية.
لكن وجود تصنيف عمري أو حساب خاص لا يعني استحالة تعرض المراهق لمحتوى غير مناسب، خاصة عندما تعتمد المشاهدة على توصيات آلية تتغير وفق التفاعل مع المقاطع.
كما أن إدخال عمر غير صحيح عند إنشاء الحساب قد يؤدي إلى تطبيق إعدادات لا تتناسب مع العمر الحقيقي للمستخدم، وهو أحد التحديات التي تتناولها الجهات التنظيمية.
إجراءات حماية الأطفال من الفيديوهات الخادشة على تيك توك
تتضمن أدوات السلامة التي تعلنها تيك توك عدة إجراءات عملية للحد من تعرض المراهقين للمحتوى غير المناسب.
الاقتران العائلي: توفر خاصية Family Pairing إمكانية ربط حساب ولي الأمر بحساب المراهق، بما يسمح بإدارة بعض إعدادات الخصوصية والتفاعل والتحكم في وقت الاستخدام.
الوضع المقيّد: تساعد خاصية Restricted Mode على تقليل ظهور المحتوى الذي قد لا يكون مناسبًا لجميع الفئات العمرية، لكنها لا تضمن حجب كل فيديو مخالف.
تصفية الكلمات المفتاحية: تتيح المنصة إعدادات لتقليل ظهور المحتوى المرتبط بكلمات أو موضوعات محددة، مع اختلاف الخصائص المتاحة بحسب الحساب والعمر.
حدود وقت الشاشة: توفر أدوات لإدارة مدة استخدام التطبيق، بما يساعد على تقليل فترات التصفح الطويلة والمتواصلة.
الإبلاغ عن المحتوى: يمكن إرسال بلاغ عن مقطع مخالف من خلال فتح قائمة المشاركة أو الضغط المطول على الفيديو، ثم اختيار الإبلاغ وتحديد السبب المناسب.
وفي حالة المقاطع المزيفة بالذكاء الاصطناعي، تتضمن خيارات الإبلاغ فئات مرتبطة بالمحتوى الاصطناعي أو الوسائط التي جرى التلاعب بها.
ولا تعد هذه الإجراءات بديلًا كاملًا عن فعالية مراجعة المحتوى على مستوى المنصة، إذ تظل الشركات مسؤولة عن تطبيق سياساتها، بينما تساعد أدوات الأسرة على إضافة مستوى آخر من الحماية.
مخاطر التزييف العميق على الأطفال وخصوصية الصور
تختلف مخاطر الفيديوهات غير المناسبة عن المخاطر المرتبطة باستخدام صور أشخاص حقيقيين لإنشاء محتوى مزيف.
ففي الحالة الأولى، تتعلق المشكلة بتعرض القاصرين لمشاهد أو إيحاءات لا تتناسب مع أعمارهم.
أما في الحالة الثانية، فقد يتحول الطفل أو المراهق إلى ضحية مباشرة نتيجة استخدام صوره الشخصية لإنشاء محتوى مسيء دون علمه أو موافقته.
وتشير التحقيقات المتعلقة بتطبيقات التزييف العميق إلى أن بعض الخدمات تتيح استخدام صور عادية لإنتاج مشاهد اصطناعية مسيئة، ما يثير مخاوف بشأن التنمر والابتزاز وانتهاك الخصوصية.
ولا يشترط أن تكون الصور المزيفة حقيقية حتى يترتب على تداولها ضرر نفسي أو اجتماعي للشخص المستهدف.
كما أن حذف التطبيق أو إزالة المقطع من منصة واحدة لا يضمن اختفاء جميع النسخ التي قد تكون نُشرت أو حُفظت في أماكن أخرى.
ولهذا تكتسب سرعة الإبلاغ عن المحتوى المسيء أهمية خاصة، إلى جانب عدم إعادة نشر الصور أو الفيديوهات الضارة حتى عند محاولة التحذير منها.
وقد تحتاج الوقائع التي تتضمن استغلال صور قاصرين أو تهديدهم إلى تدخل الجهات المختصة، وليس الاكتفاء بالإبلاغ داخل التطبيق.
ما موقف مصر من الفيديوهات المسيئة على مواقع التواصل؟
تخضع الأفعال المرتكبة عبر الإنترنت في مصر لعدد من القوانين التي قد تنطبق بحسب طبيعة الواقعة، ومن بينها قانون مكافحة جرائم تقنية المعلومات رقم 175 لسنة 2018.
ويتضمن القانون أحكامًا تتعلق بالاعتداء على الخصوصية وإساءة استخدام الوسائل الإلكترونية، فيما تتوقف المسؤولية الجنائية على طبيعة الفعل والأدلة والمواد القانونية التي تنطبق عليه.
ولا يعني تداول فيديو غير مناسب أو الاشتباه في استخدام الذكاء الاصطناعي أن مخالفة قانونية محددة قد ثبتت تلقائيًا؛ فالتكييف القانوني يتطلب فحص الواقعة والظروف المحيطة بها.
كما أن إنتاج محتوى اصطناعي لا يعد جريمة لمجرد استخدام تقنية الذكاء الاصطناعي، بينما قد تنشأ المسؤولية القانونية عندما يتضمن المحتوى أفعالًا مجرمة، مثل انتهاك الخصوصية أو التهديد أو استغلال صور الآخرين بصورة مخالفة للقانون.
ولم يتأكد صدور قرار مصري جديد مرتبط مباشرة بالتحقيق الصحفي المنشور في 4 نوفمبر بشأن محتوى تيك توك، كما لم تتوافر بيانات رسمية تحدد عدد الأطفال المصريين الذين تعرضوا للمقاطع المشار إليها.
وتظل الأرقام الواردة في التحقيقات الأجنبية مرتبطة بنطاق الدراسات والاختبارات التي أجرتها الجهات الناشرة، ولا يجوز تعميمها على المستخدمين المصريين دون بيانات محلية موثقة.
لماذا أصبحت حماية الأطفال من محتوى الذكاء الاصطناعي أكثر تعقيدًا؟
توضح التطورات الأخيرة أن التحدي لم يعد مقتصرًا على حذف فيديو مخالف بعد انتشاره، بل يشمل اكتشاف المحتوى الاصطناعي وتحديد عمر المستخدم ورصد التطبيقات الخارجية التي تستفيد من شبكات التواصل للوصول إلى الجمهور.
وتواجه المنصات كذلك صعوبة في التمييز بين الأعمال الخيالية المسموح بها والمحتوى الذي ينتهك قواعد السلامة أو خصوصية الأشخاص، خصوصًا عندما تتغير طبيعة المشاهد أو تعتمد التطبيقات على خصائص غير معلنة.
كما أن تصنيف الفيديو بأنه مولد بالذكاء الاصطناعي لا يجعله مناسبًا للأطفال بصورة تلقائية، لأن التصنيف يكشف طريقة الإنتاج ولا يلغي الحاجة إلى تقييم طبيعة المحتوى نفسه.
وتظل مسؤولية حماية القاصرين موزعة بين المنصات الرقمية ومتاجر التطبيقات والجهات التنظيمية، مع أهمية الدور الذي تؤديه الأسرة في متابعة الاستخدام.
والأهم أن التحقيق الأمريكي لم يثبت انعدام الرقابة على تيك توك، لكنه كشف أمثلة تستدعي مراجعة كفاءة تطبيق السياسات المعلنة.
وقد اتخذت المنصة إجراءات بشأن بعض المقاطع، في وقت لا يزال التحقيق البريطاني في حماية الأطفال مفتوحًا دون حكم تنظيمي نهائي.
وتبقى المسألة الأساسية هي مدى قدرة أنظمة الحماية على منع وصول المحتوى الضار قبل مشاهدته، وليس الاكتفاء بحذفه أو تقييد انتشاره بعد الإبلاغ عنه.