أنثروبك تطلق نموذج ذكاء اصطناعي خطير: هل أصبح الذكاء الاصطناعي تهديدًا أمنيًا؟

نموذج ذكاء اصطناعي جديد يثير القلق في الأوساط التقنية

أعلنت شركة أنثروبك، إحدى الشركات الرائدة في مجال الذكاء الاصطناعي، عن نموذجها الجديد كلود ميثوس (Claude Mythos Preview)، والذي تم تقييده على عدد محدود من الشركات الكبرى بسبب مخاوف أمنية.

قدرات غير متوقعة تهدد الأمن السيبراني

على الرغم من أن كلود ميثوس صُمم ليكون نموذجًا عامًا للذكاء الاصطناعي، إلا أن الاختبارات كشفت عن قدرته الفائقة على تحديد الثغرات الأمنية في مختلف الأنظمة البرمجية، مما أثار قلقًا كبيرًا لدى الشركة.

وقال هايدن فيلد، كبير مراسلي الذكاء الاصطناعي في مجلة The Verge، في تصريح لمضيف بودكاست Today, Explained:

«اكتشف النموذج ثغرات عالية الخطورة في جميع أنظمة التشغيل تقريبًا. إذا وقعت هذه المعلومات في الأيدي الخطأ، فقد تُستخدم لإحداث أضرار جسيمة في البنية التحتية الحيوية».

مشروع غلسوينغ: شراكة مع الشركات الكبرى لمواجهة التهديدات

لتجنب المخاطر، قررت أنثروبك عدم إطلاق النموذج للجمهور، وبدلًا من ذلك، أطلقت مشروع غلسوينغ (Project Glasswing)، الذي يوفر وصولًا محدودًا إلى النموذج لعدد من الشركات التقنية والمالية الكبرى، مثل:

• إنفيديا
• جي بي مورغان تشيس
• جوجل
• عشرات الشركات الأخرى المسؤولة عن البنية التحتية الحيوية

كيف يعمل النموذج؟

يعمل كلود ميثوس مثل أي نموذج ذكاء اصطناعي آخر، حيث يمكن للمستخدمين توجيهه لاكتشاف الثغرات الأمنية في أنظمة معينة. على سبيل المثال، يمكن لجوجل استخدامه لفحص متصفح كروم بحثًا عن ثغرات محتملة، ثم إصلاحها قبل استغلالها من قبل المهاجمين.

ومع ذلك، يحذر الخبراء من أن نفس القدرات التي تجعل النموذج مفيدًا للشركات يمكن أن تُستخدم لأغراض خبيثة إذا وقعت في الأيدي الخطأ.

هل يشكل كلود ميثوس تهديدًا حقيقيًا؟

على الرغم من الفوائد التي يقدمها النموذج في تعزيز الأمن السيبراني، إلا أن خبراء الأمن يحذرون من المخاطر المحتملة. فبمجرد أن يتمكن المهاجمون من الوصول إلى مثل هذه الأدوات، قد تصبح الهجمات الإلكترونية أكثر تعقيدًا وضررًا.

وفي ظل التطور السريع للذكاء الاصطناعي، تزداد الحاجة إلى تنظيم استخدام هذه التقنيات لضمان عدم استغلالها في أغراض ضارة.