AI テクノロジー TikTok 企業責任 消費者問題 DoorDash フードデリバリー 返金詐欺

AIを活用した巧妙な返金詐欺、TikTokで拡散

フードデリバリーサービス大手のDoorDashは、レストラン側のミスに対して迅速に返金対応を行う一方で、その根拠として注文内容に関する証拠の提出を顧客に求めている。不足商品や遅延配達、調理不良など、注文に問題があった際には、顧客はその証拠を示す必要があり、場合によってはレストラン側の負担で返金が行われる仕組みだ。

しかし、AI技術の進化により、証拠の信頼性が揺らぎつつある。そんな中、ある顧客がAIを悪用して注文画像を改ざんし、DoorDashから返金を勝ち取ったとする投稿がTikTokで拡散し、大きな議論を呼んでいる。

注文画像をAIで改ざん、440万回再生の投稿に

TikTokユーザーのStarr（@mi5under5t00d）さんは、自身の注文内容を巧妙に改ざんした動画を投稿した。動画では、まず実際の注文画像（鶏肉の一部が食べられた状態）を公開。次に、その画像をAIで加工し、鶏肉が生の状態に見えるように編集。最後に、DoorDashアプリの画面キャプチャを示し、同社から将来の注文に使用できる39.24ドルのクレジットが発行されたことを明かした。

動画のキャプションには「ChatGPTに感謝」と書かれ、Starrさんは注文に関する問題（不足商品や冷えた鶏肉）を指摘したが、生の鶏肉という重大な問題は自身で作り出したものだった。

ソーシャルメディアの反応は厳しい

Starrさんの投稿は440万回以上再生され、数千件のコメントが寄せられた。その中には、DoorDash自身のコメントも含まれていた。

「これは人を解雇させる行為です。DoorDashやUberで生計を立てている人もいるのに、数ドルのために彼らを解雇させるのですか？自己中心的です」
（コメント抜粋）

「これは本当に卑劣な行為です。なぜ小規模なビジネスを利用するのですか？」
（別のコメント抜粋）

DoorDashからの返信コメントも注目を集めた。「うわ、私たちをブロックしなかったの？」というDoorDashのコメントに対し、Starrさんは「私の鶏肉が生だったらブロックしますか？」と返した。

DoorDashのAI活用と課題

DoorDashは、悪意のある返金要求を防ぐための対策を講じている。例えば、頻繁に返金を要求するユーザーをフラグ付けし、手動で審査を行う仕組みだ。しかし、AIによる画像加工技術が高度化する中で、手動審査でも見抜くことが難しくなっている。

その一方で、DoorDashはAI技術を積極的に活用しており、新たに発表されたAIツールスイートでは、加盟店向けのサポート機能を強化している。また、食品画像の編集や強化にもAIを用いており、顧客が投稿する画像の品質向上に貢献しているという。

DoorDashの広報担当者は、「当社はAI技術の活用を推進していますが、悪用されるリスクにも常に注意を払っています。今後も顧客と加盟店双方の信頼を守るための取り組みを強化していきます」とコメントしている。

AI技術の進化がもたらす新たな課題

今回の事例は、AI技術がもたらす恩恵とリスクの両面を浮き彫りにした。企業は技術革新を進める一方で、悪用を防ぐための対策を強化する必要がある。顧客と加盟店双方の信頼を維持するためには、透明性の高い運用と、AI技術の適切な活用が求められる。

出典: Fast Company
ネブラスカ民主党予備選挙に混乱、民主党は候補者を擁立せず？
← 前へ

ネブラスカ民主党予備選挙に混乱、民主党は候補者を擁立せず？

 ロバート最高裁、アラバマ州の選挙区改編を承認 党派的判断に批判集まる
次へ →

ロバート最高裁、アラバマ州の選挙区改編を承認 党派的判断に批判集まる