كيف تخدعنا الذكاء الاصطناعي؟ فشل العلامات المميزة في كشف المحتوى المزيف على الإنترنت

«إيميلي هارت».. قصة مزيفة أصبحت ظاهرة تهدد الإنترنت

منذ ظهور وسائل التواصل الاجتماعي، لم تكن الحسابات المزيفة غريبة على المستخدمين. لكن عندما تبين أن «إيميلي هارت»، الشخصية المحافظة الأمريكية التي جذبت آلاف المتابعين عبر الإنترنت، هي في الواقع طالب طب هندي يبلغ من العمر 22 عاماً، لم يكن الأمر مجرد قصة عادية عن «التصيد الاحتيالي» أو «الدمى الوهمية».

«إيميلي» لم تكن مجرد حساب مجهول؛ بل كانت مؤثرة رقمية حقيقية، حيث كانت تنشر مقاطع فيديو وصوراً جذابة، وتحقق ملايين المشاهدات، وتدر آلاف الدولارات شهرياً من خلال منصات مثل «أونلي فانز» وبيع المنتجات. لم يكن منشئها خبيراً تقنياً، بل طالباً عادياً يستخدم أدوات الذكاء الاصطناعي مثل «جوجل جيميني» لفهم الثقافة السياسية الأمريكية وإنشاء محتوى مزيف يبدو حقيقياً.

كيف أصبح الذكاء الاصطناعي سلاحاً للمحتالين؟

قصة «إيميلي هارت» ليست حالة فردية، بل هي نموذج قابل للتكرار. فقد كشفت التحقيقات أن هناك عشرات الحسابات المزيفة الأخرى، مثل «جيسيكا فوستر» المؤيدة لترامب، التي تنتشر على منصات مثل إنستغرام وتويتر. هذه الحسابات غالباً ما تكون مصممة بدقة، وتستخدم صوراً وفيديوهات تبدو حقيقية تماماً، دون أي إشارة إلى أنها من صنع الذكاء الاصطناعي.

أصبحت هذه الظاهرة أكثر انتشاراً من أي وقت مضى، حيث يمكن لأي شخص تقريباً إنشاء شخصية افتراضية جذابة في غضون ساعات، وتحقيق أرباح طائلة من الإعلانات أو الترويج لمنتجات. لكن السؤال الأهم: من المسؤول عن حماية المستخدمين؟

سياسات منصات التواصل الاجتماعي.. قوانين بلا تطبيق

تفرض معظم منصات التواصل الاجتماعي، مثل فيسبوك وإنستغرام وتويتر، قواعد صارمة بشأن المحتوى المزيف. فوفقاً لهذه القواعد، يجب الكشف عن المحتوى الذي تم إنشاؤه أو تعديله بواسطة الذكاء الاصطناعي، خاصة إذا كان يتعلق بمواضيع حساسة مثل السياسة أو الصحة أو الأخبار. عدم الكشف عن ذلك قد يؤدي إلى تجميد الحسابات أو حظرها أو منعها من الربح من الإعلانات.

لكن المشكلة الكبرى هي عدم تطبيق هذه القواعد بفعالية. فمع تطور أدوات الذكاء الاصطناعي، أصبحت الصور والفيديوهات المزيفة أكثر واقعية، مما يجعل من الصعب على الأنظمة الآلية التمييز بينها وبين المحتوى الحقيقي. حتى العلامات المميزة التي كانت تستخدم سابقاً، مثل الأصابع الإضافية أو خلفيات الصور المشوهة، لم تعد موجودة في معظم الحالات.

«ملصق التغذية».. حل لم يتم تطبيقه بعد

为了解决这个问题，专家们提出了一个被称为「内容凭证」（Content Credentials）的标准。这一标准旨在追踪图像或视频在其生命周期内的创建和修改过程，并将这些信息保存在元数据中。这样，当用户浏览内容时，可以通过简单的操作查看其来源和真实性。

然而،尽管这一解决方案已经提出多年，但仍然 没有得到广泛应用。大多数社交媒体平台尚未完全集成这一功能，而用户也很少意识到如何使用它。这意味着，即使有了这样的工具，大多数人仍然无法轻松识别虚假内容。

谁 يتحمل المسؤولية؟

في ظل غياب تطبيق فعال للسياسات، يبقى السؤال: من المسؤول عن حماية المستخدمين؟ هل هي منصات التواصل الاجتماعي نفسها، أم الحكومات، أم المستخدمون أنفسهم؟

بعض الخبراء يدعون إلى تشديد الرقابة وزيادة الشفافية، بينما يرى آخرون أن الحل يكمن في توعية المستخدمين حول كيفية التعرف على المحتوى المزيف. لكن في الوقت الحالي، لا تزال معظم الحسابات المزيفة، مثل «إيميلي هارت»، تنجح في خداع المستخدمين، مما يهدد ثقة الجمهور في المحتوى الرقمي.

ماذا يمكنك أن تفعل لحماية نفسك؟

• تحقق من المصدر: قبل تصديق أي محتوى، حاول التعرف على مصدره. هل الحساب جديد؟ هل هناك علامات تدل على أنه مزيف؟
• استخدم أدوات التحقق: بعض المنصات تقدم أدوات للتحقق من المحتوى، مثل «Content Credentials» أو «InVID» للتحقق من الفيديوهات.
• كن حذراً من المحتوى الجذاب: غالباً ما تكون الحسابات المزيفة مصممة لجذب الانتباه، لذا كن حذراً من المحتوى الذي يبدو «مثالياً» أو غير واقعي.
• بلغ عن المحتوى المشبوه: إذا اكتشفت حساباً أو محتوىً مزيفاً، أبلغ عنه فوراً للمنصة.

«المحتوى المزيف لم يعد مجرد مشكلة تقنية، بل أصبح تهديداً اجتماعياً يؤثر على ثقة الناس في المعلومات الحقيقية.»

الخلاصة: مستقبل غير مؤكد

قصة «إيميلي هارت» هي مجرد بداية لما يمكن أن يصبح أزمة أكبر في المستقبل. مع تطور الذكاء الاصطناعي، سيصبح من الصعب أكثر من أي وقت مضى التمييز بين المحتوى الحقيقي والمزيف. دون إجراءات جادة من قبل المنصات والحكومات والمستخدمين، ستستمر هذه الظاهرة في الانتشار، مما يهدد استقرار المجتمعات الرقمية.

السؤال الآن: هل نحن مستعدون لمواجهة هذا التحدي؟