米連邦取引委員会(FTC)の調査により、AI企業Clarifaiが2014年に出会い系サイトOKCupidのプロフィール写真300万枚を無断で収集し、顔認識技術の学習に使用していたことが明らかになった。
Clarifaiは4月7日、FTCに対しデータ削除を完了したと報告。また、米下院議員ロリ・トレイハン氏(民主党、マサチューセッツ州)の事務所に対し、当該データを基に学習したモデルも全て削除したことを確認した。第三者へのデータ提供はなかったとしている。
FTCは2019年、ニューヨーク・タイムズが報じたClarifaiによるOKCupidの写真無断使用を受け、調査を開始。裁判所文書によると、Clarifaiは2014年にOKCupidの経営陣に対しデータ提供を要請し、承諾を得ていたことが判明した。
違法なデータ収集と倫理的問題
ClarifaiはOKCupidの写真を使用し、年齢・性別・人種を特定する顔認識サービスを開発。同社の創業者マシュー・ザイラー氏は2019年のインタビューで、テック企業への信頼の必要性を主張し、「強力な技術を善用するためには、人々がその技術に慣れる必要がある」と発言していた。
また、Clarifaiは都市の監視カメラ映像を無断で収集し顔認識技術に活用していた疑惑も浮上したが、同社はこれを中止したと報じられている。
FTCの和解内容と疑問視される措置
FTCは和解の一環として、OKCupidに対し「データ収集とプライバシーコントロールの虚偽表示を永久に禁止する」とした。しかし、テッククランチは、FTCの既存ルールでも同様の行為は禁じられており、この措置が実質的な罰則として機能するのか疑問視している。
OKCupidの共同創業者の中にはClarifaiの投資家も含まれていたとされる。