Компании получили жестокий урок: как обучение ИИ за счет нещадной эксплуатации людей обернулось скандалом

Новый вид эксплуатации: как Mercor наживался на безработных специалистах

В условиях кризиса на рынке труда в Сан-Франциско возникла новая сомнительная бизнес-модель: стартап Mercor нанимал образованных, но безработных специалистов для обучения ИИ выполнять работу, которую им не могли предложить самим. Как сообщает New York Magazine, компания скрывала от сотрудников, для каких именно клиентов они трудятся, а условия работы были крайне жесткими: смены затягивались на многие часы, большинство менеджеров не имели опыта, а контракты расторгались внезапно без предупреждения.

Утечка данных: как нестабильная цепочка поставок ИИ обернулась катастрофой

Недавно Mercor сообщил о взломе, что обнажило хрупкость и зависимость цепочки поставок ИИ от подрядчиков. По данным TechCrunch, уязвимость была связана с проектом с открытым исходным кодом LiteLLM. В украденных данных, по версии издания, содержались фрагменты переписки в Slack и записи разговоров между системами ИИ и нанятыми сотрудниками. Это означает, что конфиденциальная информация клиентов Mercor — таких как OpenAI и Anthropic — могла попасть в руки злоумышленников.

«Мы проводим тщательное расследование с привлечением ведущих экспертов в области кибербезопасности. Продолжаем работать с клиентами и подрядчиками напрямую и выделяем все необходимые ресурсы для скорейшего решения проблемы», — заявил представитель Mercor.

Последствия для подрядчиков: пять исков и обвинения в нарушении законов

Пять судебных исков против Mercor уже поданы бывшими подрядчиками, которые обвиняют компанию в нарушении законов о защите данных и потребительских прав. По их словам, стартап мог разгласить крайне чувствительную информацию, включая номера социального страхования и адреса. Хотя утечки данных часто приводят к судебным разбирательствам, этот случай лишний раз подчеркнул риски использования армии недоплачиваемых и перегруженных сотрудников для обучения ценных моделей ИИ.

Реакция клиентов: Meta приостановила сотрудничество

Крупные заказчики Mercor, включая Meta, начали собственные расследования после инцидента. Как сообщает Wired, Meta официально приостановила все работы с Mercor, однако основной причиной стали не этические аспекты, а опасение утечки информации о том, как компании обучают свои ИИ-модели. Для конкурентов такие данные представляют огромную ценность.

Предыдущие скандалы: как Mercor эксплуатировал подрядчиков

Это далеко не первый случай, когда Mercor сталкивается с проблемами из-за своих подрядчиков. Еще до недавнего взлома компания уже столкнулась с тремя коллективными исками за последние семь месяцев. Истцы обвиняют стартап в том, что он полностью контролирует независимых подрядчиков, лишая их возможности влиять на условия труда или даже понимать, для кого они работают. В ноябре бывшие сотрудники заявляли, что их увольняли, а затем предлагали вернуться на проект, но уже за значительно меньшую оплату.

«Mercor создал систему, в которой образованные специалисты остаются в неведении о конечных бенефициарах их труда, работают в условиях жесткой эксплуатации и не имеют никаких гарантий стабильности», — отмечают эксперты.

Вывод: почему бизнес-модель Mercor обернулась провалом

Инцидент с Mercor стал очередным напоминанием о том, что использование дешевой рабочей силы для обучения ИИ — это не только этически сомнительная практика, но и серьезный риск для бизнеса. Утечка данных и последующие судебные иски показали, что компании, полагающиеся на таких подрядчиков, рискуют не только репутацией, но и безопасностью своих разработок.