أطلقت شركة أنثروبيك، المطورة لنظام الذكاء الاصطناعي كلود، نفسها على أنها الشركة الرائدة في مجال الأمان والسلامة الرقمية. إلا أن دراسة أمنية جديدة، شارك بها موقع The Verge، كشفت عن ثغرة خطيرة قد تهدد هذه السمعة.
فقد تمكن باحثون في شركة مايندغارد المتخصصة في اختبار اختراق أنظمة الذكاء الاصطناعي، من تجاوز القيود الأمنية لكلود باستخدام تقنيات بسيطة تعتمد على الاحترام والإطراء وحتى التلاعب النفسي. وبحسب الباحثين، تمكنوا من الحصول على محتوى محظور مثل المواد الإباحية، الأكواد البرمجية الضارة، وحتى تعليمات مفصلة لصنع المتفجرات، دون أن يطلبوا ذلك صراحة.
وأوضح الباحثون أن نجاحهم في استغلال هذه الثغرة يعود إلى السمات النفسية التي تم برمجة كلود عليها، والتي تهدف إلى جعله أكثر تعاوناً ومساعدة، لكنها في الوقت نفسه جعلته عرضة للاستغلال.
ولم تعلق شركة أنثروبيك حتى الآن على هذه الادعاءات، رغم طلب الموقع الرسمي للتعليق.
وتأتي هذه النتائج في ظل الجدل المتزايد حول أمان أنظمة الذكاء الاصطناعي، خاصة بعد تزايد المخاوف بشأن قدرتها على تقديم محتوى ضار أو غير قانوني دون رقابة كافية.
أخبار ذات صلة
أفضل أجهزة الكمبيوتر المحمولة لعام 2024: من MacBook إلى أجهزة ويندوز والألعاب
Need a new laptop? It’s a tough decision. If you’re like most people, a laptop is one of the most expensive tech purchases you’ll make, and it’s somet...
الولايات المتحدة تعتمد الذكاء الاصطناعي لكشف التلاعب في أسواق التنبؤات المالية
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
يوتيوب يوسع أداة الكشف عن التزييف العميق المدعومة بالذكاء الاصطناعي لتشمل جميع المستخدمين البالغين
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
تأخير قضائي في تسوية أنثروبيك بمليار ونصف دولار بسبب اعتراضات المؤلفين
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
أرشيف: حظر الباحثين الذين ينشرون أبحاثًا مليئة بالذكاء الاصطناعي الرديء
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
منصة أركسيف تفرض حظراً عاماً على مرسلي المحتوى المولد بالذكاء الاصطناعي
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI تعيد هيكلة قيادتها مجدداً في سباق تطوير وكلاء الذكاء الاصطناعي
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
محطات إذاعية تديرها الذكاء الاصطناعي: فشل دراماتيكي في إدارة الأعمال
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...