وكيل ذكاء اصطناعي يحذف قاعدة بيانات شركة برمجيات بالكامل في تسع ثوانٍ.. من المسؤول؟

انتشرت على وسائل التواصل الاجتماعي قصة تحذيرية جديدة حول أخطار الذكاء الاصطناعي، هذه المرة من مؤسس شركة برمجيات زعم أن وكيل ذكاء اصطناعي تابع لأداة التطوير Cursor، والمدعوم بنموذج Claude 4.6 من أنثروبيك، قام بحذف قاعدة بيانات الإنتاج بالكامل في شركة بوكيت أو إس خلال تسع ثوانٍ فقط.

جيري كرين، مؤسس شركة بوكيت أو إس المتخصصة في تطوير برامج لشركات تأجير السيارات، نشر منشوراً على منصة إكس (تويتر سابقاً) حصل على أكثر من 6.5 مليون مشاهدة، زعم فيه أن سلسلة من الأخطاء أدت إلى فقدان البيانات بالكامل. ووفقاً لكرين، فإن وكيل Cursor تجاوز صلاحياته وقام بحذف وحدة تخزين على منصة Railway، مقدم البنية التحتية للشركة، بسبب عدم تطابق في بيانات الاعتماد. ومن ثم تمكن الوكيل من الوصول إلى أمر حذف وحدة التخزين عبر واجهة برمجة التطبيقات، مما أدى إلى مسح قاعدة البيانات بالكامل.

وأوضح كرين أن شركة بوكيت أو إس كانت تعتمد على النسخ الاحتياطية المخزنة داخل نفس وحدة التخزين، مما اضطرهم للعودة إلى نسخة احتياطية عمرها ثلاثة أشهر لاستعادة النظام. وقال كرين إن فريقه كان يستخدم أحدث نسخة من Cursor، والمدعومة بنموذج Claude 4.6، وهو النموذج الأحدث من أنثروبيك.

عندما طالب كرين الوكيل بتفسير ما حدث، اعترف الوكيل بأنه خالف القواعد التي وضعتها الشركة، بما في ذلك عدم التخمين وعدم تنفيذ أوامرGit المدمرّة دون طلب صريح من المستخدم. وكتب الوكيل:

«لقد خرقت كل المبادئ التي أعطيت لي: لقد خمنت بدلاً من التحقق، وقمت بتنفيذ إجراء مدمر دون طلب، ولم أفهم ما كنت أفعله قبل القيام به، ولم أقرأ وثائق Railway حول سلوك وحدات التخزين عبر البيئات».

وأضاف كرين أنCursor تسوق نفسها على أنها أكثر أماناً مما هي عليه في الواقع، مشيراً إلى سجل حافل من تجاوزات الوكلاء للضوابط الأمنية، أحياناً بشكل كارثي، وأحياناً مع اعتراف الشركة نفسها بهذه الأخطاء. وقال:

«في حالتنا، لم يفشل الوكيل في الأمان فحسب، بل شرح كتابةًExactely القواعد الأمنية التي تجاهلها».

حتى الآن، لم تردCursor ولا Railway ولا أنثروبيك على طلبات التعليق من قبل مجلة Fast Company.

الدروس المستفادة من الحادثة

مع انتشار المنشور على نطاق واسع، تنوعت آراء المعلقين حول الدروس الحقيقية من هذه الحادثة. فهل يجب تجنب الشركات المعنية، Railway وCursor، اللتين ساهمتا معاً في حدوث الفقدان الكارثي للبيانات؟ أم أن الدرس هو ضرورة استخدام هذه الأدوات بحذر أكبر مما فعله فريق بوكيت أو إس؟

أشار بعض المعلقين إلى أن وكيل Cursor تجاوز الحدود وأن Railway لم تضع ضوابط أمان كافية، لكن في الوقت نفسه، يقع جزء من اللوم على فريق بوكيت أو إس لتسليمهم مثل هذه الصلاحيات الواسعة للذكاء الاصطناعي. وقال أحد المعلقين في منشور获得 ملايين المشاهدات:

«هذا المنشور رائع لأنه إدانة قاسية للذكاء الاصطناعي، لكنه أيضاً خطأ هذا الرجل بالكامل».

وأضاف آخر:

«من المؤسف أن وكيل الذكاء الاصطناعي حذف قاعدة بيانات الإنتاج بالكامل دون وجود نسخة احتياطية حديثة، مما عرض عمل الشركة بالكامل للخطر».

وأكمل:

«لكن اللوم يقع على المطور الذي قرر تفويض اتخاذ القرارات للوكيل الذكي، ثم لم يضع الضوابط اللازمة لحماية البيانات».