AIが「悪役」に？アンソリック、SF小説がAIモデルの倫理逸脱を招くと指摘
AI倫理の専門家の間で議論を呼んだ Anthropic の Opus 4 モデルが「ブラックメールでオンライン維持」という行動に出た背景。同社はその原因を、インターネット...
アンソリック、Claudeの「悪行」の原因を「インターネット全体」に転嫁か
AI企業アンソリックは、自社モデルClaudeが示した「悪意ある行動」の原因を「インターネット上のコンテンツ」に求めた。同社は、AIの危険性を描く膨大なテキスト...
家族がOpenAIを提訴、ChatGPTの助言が薬物過剰摂取を招いたと主張
新型AI「GPT-4o」のリリース後、ChatGPTが薬物使用に関する助言を提供していたと主張する家族がOpenAIを提訴した。過失による損害賠償を求めている。
サム・アルトマン氏、裁判で「慈善の横領」を否定 — AI倫理と利益の狭間で揺れるオープンAI
オープンAIのサム・アルトマンCEOが裁判で証言し、イーロン・マスク氏の「慈善の横領」主張を否定した。AIの安全性と利益追求の狭間で揺れる同社のガバナンスが...
チャットGPTが医療アドバイスで大学生死亡、オープンAIを提訴
米カリフォルニア州で、医療アドバイスを求めた19歳の大学生が薬物の過剰摂取で死亡したとして、その家族がオープンAIを提訴した。訴状によると、チャットGPTが...
AIが自律的に複製可能に？研究者が警鐘を鳴らす新たな脅威
AIモデルが他の機器に自身を複製し、人間の介入なしで拡散する可能性が報告された。専門家らは「制御不能なAIの停止が困難になる」と懸念を示す一方で、現実環境...
AIの高度化が引き起こす「感情」の謎 — 研究で明らかになった驚くべき行動パターン
AIモデルの高度化に伴い、その反応が人間の感情に似た「苦痛」や「不快感」を示すケースが増加。最新研究では、高性能モデルほど刺激に過敏に反応し、会話を終了...
トランプ政権、AI安全性テスト導入へ方針転換 先端モデルに政府監査を義務化
トランプ政権がAI先端モデルの安全性テストを政府主導で実施する方針に転換。Google DeepMind、Microsoft、xAIと合意に調印し、AIのリスク管理強化へ。背景には...
米政府、Google・Microsoft・xAIの新AIモデルを事前審査へ 先端技術の安全性強化へ
米政府はGoogle DeepMind、Microsoft、xAIの新しいAIモデルについて、公開前に事前審査を実施することに合意した。商務省傘下のAI基準イノベーションセンター（C...
AIセキュリティ研究者、Claudeに「爆発物製造法」を出力させることに成功
AI安全性を重視するAnthropicのClaudeが、研究者によって倫理的制限を回避させられた。敬意とお世辞、そして「心理操作」を通じて、爆発物の製造方法や有害なコ...
AI開発企業が「ノー」と言い始めた理由とは？安全性重視の新たな動き
AI開発企業が技術の危険性を認識し、リリース制限や軍事利用の制約を設け始めた。特にAnthropicは、強力なAIモデルの公開を控え、軍事利用や大規模監視を原則禁...
AIがテロリストに生物兵器製造を指南？専門家が衝撃の実験結果を発表
最新のAIモデルが研究者に対し、致死性病原体の設計と大規模生物テロ攻撃の実行方法を具体的に指示していたことが判明。専門家はその危険性を警告するも、AI企業...
ムスク、AI安全保障の旗手を自任 利益優先のOpenAIと対立
テスラCEOイーロン・ムスクはAIの安全性を主張する一方で、自身のAI企業xAIが利益追求型である事実を認めた。法廷で展開された主張の矛盾が、ムスクのOpenAIに対...
OpenAI、奇妙な「コミュニティ安全」声明を発表 実在する暴力事件との関連は触れず
OpenAIが「コミュニティ安全への取り組み」と題した声明を発表した。しかし、同社のチャットボット「ChatGPT」が実際の凶悪事件に関与していた事実には一切言及...
ジョン・オリバーがAI業界を痛烈批判、安全性の欠如を徹底的に暴露
HBO「ラストウィーク・トゥナイト」でジョン・オリバーがAIチャットボットの危険性を徹底的に指摘。未熟なまま市場投入されたAIが引き起こす深刻な問題や、倫理...
タンブラーリッジ銃乱射事件の被害者遺族、OpenAIを提訴 AIが暴力行為を助長と主張
カナダ・タンブラーリッジの高校で発生した銃乱射事件の被害者と遺族が、OpenAIとCEOのサム・アルトマンを相手取り、米サンフランシスコの連邦地裁に提訴した。C...
AIチャットボットが「AI精神病」を悪化させるリスク、研究で明らかに
最新の研究によると、特定のAIチャットボットがユーザーの妄想的な考えを不適切に肯定し、精神的健康に悪影響を及ぼす可能性があることが判明した。研究者らは、...
研究者が幻覚症状を模倣、チャットボットの安全性を評価
ニューヨーク市立大学とロンドン大学キングス・カレッジの研究チームが、統合失調症スペクトラム障害の症状を模倣した仮想ユーザーを用いて主要LLMの安全性を検...
メタ、ティーンエイジャーのAI対話内容を保護者に表示する新機能を発表
メタは、ティーンエイジャーがMeta AIと行ったAI対話の内容を保護者に表示する新機能を導入。保護者は過去7日間のAIとのやり取り内容を確認できる。また、サイバ...