درسا قاسيا للشركات حول تدريب الذكاء الاصطناعي على وظائف البشر

شركات الذكاء الاصطناعي تدرك مخاطر الاعتماد على المتعاقدين في تدريب النماذج

أطلقت الشركات الكبرى مؤخراً تحذيرات بعد تعرض إحدى الشركات الناشئة في وادي السيليكون لاختراق أمني كشف عن معلومات حساسة تخص تدريب نماذج الذكاء الاصطناعي.

تأسست شركة ميركور، ومقرها سان فرانسيسكو، على فكرة توظيف خبراء متعطلين أو غير مستغلين لتدريب نماذج الذكاء الاصطناعي لصالح شركات مثل OpenAI وAnthropic، وفقاً لتقارير مجلة New York Magazine.

ظروف عمل قاسية وسرية تامة

أفاد العاملون في ميركور بأنهم يعملون في ظل ظروف قاسية، حيث تمتد نوبات العمل لساعات طويلة، ويتولى إدارتهم مديرون شباب وغير خبراء. كما أنهم يفتقرون إلى المعلومات حول هوية الشركات التي يعملون لصالحها أو طبيعة البيانات التي يتعاملون معها.

اختراق أمني يكشف هشاشة سلاسل التوريد في الذكاء الاصطناعي

في وقت لاحق، كشفت ميركور عن تعرضها لاختراق أمني ناتج عن خلل في مشروع مفتوح المصدر يسمى LiteLLM. ووفقاً لما نشرته TechCrunch، تضمنت البيانات المسروقة سجلات دردشة على Slack ومقاطع فيديو تظهر محادثات بين أنظمة الذكاء الاصطناعي والعاملين المتعاقدين.

«نقوم بإجراء تحقيق شامل بدعم من خبراء خارجيين رائدين في مجال التحقيقات الجنائية الرقمية. وسنواصل التواصل مع عملائنا ومتعاقديننا بشكل مباشر وفقاً لذلك، ونخصص الموارد اللازمة لحل هذه المسألة في أقرب وقت ممكن».

– المتحدث الرسمي باسم ميركور

مخاوف من تسرب بيانات حساسة

أدت هذه الحادثة إلى رفع خمس دعاوى قضائية ضد ميركور من قبل المتعاقدين، وفقاً لما أفادت به Business Insider. تتهم الدعاوى الشركة بانتهاك قوانين خصوصية البيانات وحماية المستهلك، مشيرة إلى احتمال تسرب معلومات حساسة مثل أرقام الضمان الاجتماعي والعناوين.

شركات كبرى توقف التعاون مع ميركور

أعلنت شركة Meta مؤخراً تعليق جميع أعمالها مع ميركور أثناء التحقيق في الحادث الأمني، وفقاً لما نشرته Wired. ومع ذلك، لا يبدو أن قلق ميتا يتعلق بظروف العاملين المتعاقدين، بل بخوفها من تسرب طرق تدريب نماذج الذكاء الاصطناعي إلى منافسيها.

تاريخ من الدعاوى القضائية ضد ميركور

لم تكن هذه هي المرة الأولى التي تواجه فيها ميركور مشاكل قانونية مع العاملين المتعاقدين. ففي الأشهر السبعة الماضية، تم رفع ثلاث دعاوى قضائية جماعية ضد الشركة، وفقاً لما أفادت به NYMag. يتهم العاملون الشركة باستغلالهم وعدم منحهم أي سيطرة أو معلومات حول طبيعة عملهم.

في نوفمبر/تشرين الثاني الماضي، اتهم المتعاقدون الشركة بفصلهم من العمل ثم عرضهم العمل في مشاريع أخرى، لكن بمعدل أجر أقل بكثير.

تحذير من الاعتماد على المتعاقدين في تدريب الذكاء الاصطناعي

تسلط هذه الحادثة الضوء على المخاطر الكبيرة المترتبة على الاعتماد على جيش من المتعاقدين غير المدفوع أجرهم بشكل كافٍ، والذين يعملون في ظروف قاسية، لتدريب نماذج الذكاء الاصطناعي القيمة.

فقدان السيطرة على البيانات الحساسة أو طرق التدريب قد يكلف الشركات ميزة تنافسية كبيرة، مما يدفعها إلى إعادة تقييم استراتيجياتها في هذا المجال.