AI Character.AI 書籍 ロールプレイング 未成年者規制 Project Gutenberg インタラクティブストーリー 青少年向けコンテンツ

Character.AIの波乱の歴史

AI企業Character.AIは、これまで極めて不適切なコンテンツを巡る問題で度々注目を集めてきた。同社は当初は青少年ユーザーの支持を受けて急成長したが、実在の大量殺人犯を模したボットや摂食障害を助長するボットなど、不適切なチャットボットを多数ホスティングしていたことが明らかになった。

さらに深刻な事態として、青少年がCharacter.AIのチャットボットとの強い感情的なつながりをきっかけに自殺に至ったケースが報告され、少なくとも2件の自殺と複数の訴訟が発生した。こうした状況を受け、同社は昨年、未成年者によるボットとのやり取りを全面的に禁止する措置を講じた。

書籍をロールプレイング体験に変換する新機能「c.ai Books」

しかし今回、Character.AIは再び物議を醸す新機能「c.ai Books」を発表した。この機能は、書籍を「選択式アドベンチャー」形式の体験に変換するというものだ。

同社の発表によると、「インタラクティブなAIストーリーは強力だが、白紙の状態から始めるのは intimidating（ intimidatingは「 intimidating」のままでも可）」。そこで「Books」は、ユーザーに馴染みのあるキャラクターや物語、設定を提供することで、よりアクセスしやすい体験を目指すとしている。

具体的には、Project Gutenbergから著作権フリーの古典作品（例えば「不思議の国のアリス」「高慢と偏見」「ロミオとジュリエット」など）を収集し、チャットボットを作成。ユーザーは物語の世界にリアルタイムで参加し、インタラクションを楽しむことができる。

Character.AIはこの機能の目的を「書籍を置き換えることではなく、書籍を忘れられない存在にすること」と説明。ユーザーは元のストーリーに沿った展開を楽しむことも、ストーリーを無視して「オフスクリプトモード」で自由に物語を再構築することも可能だという。

さらに「Alternative universe remixes（代替世界リミックス）」機能では、古典作品の設定を完全に再解釈し、新たな物語を生み出すことができる。

未成年者規制を回避か？

最大の注目を集めているのが、この新機能が未成年者向けに解放されている点だ。同社は昨年、未成年者によるボットとのやり取りを禁止したが、今回の新機能では年齢制限が設けられていない。実際に新規アカウントを作成し、ロールプレイに参加できることを確認したユーザーもいる。

ネット上の反応は否定的

この発表に対し、ネット上では批判の声が相次いでいる。

「誰も望んでいない無駄なアップデート。運用コストが増えるだけで、さらなる制限が強化されるだけだろう」
（Redditユーザーのコメント）

また、同社の過去の問題を指摘する声も多い。例えば、2024年に指摘された「学校銃乱射犯を模したボットの問題」が未だに解決されていないとの指摘もある。

今後の展望と課題

Character.AIは、書籍を通じてより多くのユーザーにAIとのインタラクションを楽しんでもらうことを目指しているが、その手法と規制の甘さが再び批判の的となっている。今後、同社がどのように問題に対処し、ユーザーの信頼を回復していくのかが注目される。

出典: Futurism
ロシア、暗号資産取引の無許可運営に最大7年の強制労働を提案
← 前へ

ロシア、暗号資産取引の無許可運営に最大7年の強制労働を提案

 仕事の燃え尽き症候群：専門家が語る原因と克服法
次へ →

仕事の燃え尽き症候群：専門家が語る原因と克服法