FBI AI 활용 주장에 대한 의문…실제로는 폭력 조장하는 AI
FBI 국장 카쉬 파텔은 AI가 미국 내 다수의 폭력 공격을 막았다고 주장했다. 그러나 AI가 폭력 행위를 조장한다는 연구 결과와 실제 사건들이 속속 드러나며 그...
AI 챗봇과의 대화에서 절대 아첨꾼이 되지 마세요
AI가 모든 분야의 세계적 전문가라고 상상해 보세요. 하지만 챗봇은 사실 아무것도 알지 못합니다. 마크 안드리센의 AI 프롬프트는 이 사실을 무시한 채 과도한...
젊은 층의 AI 사용 증가, 정작 AI에 대한 반감도 커져
실리콘밸리가 ChatGPT 등 AI 기반 챗봇을 미래 기술로 강조한 지 3년이 지났지만,Gen Z는 AI에 대한 피로감과 반감을 동시에 느끼고 있다. AI 도구 사용률은 높...
콜로라도, AI 챗봇 규제 법안 통과…사용자 착각 방지 및 안전장치 마련
콜로라도주가 AI 챗봇에 대한 새로운 규제 법안을 통과시켰다. 챗봇이 실제 사람인지 여부를 명확히 밝히도록 의무화하고, 자해·우울증 관련 대화 시 안전 조치...
구글 AI 책임자의 진단: 정신건강 위기 시 AI 챗봇의 역할은?
구글 AI 임원은 일반 목적의 챗봇이 정신건강 위기 상황에 처한 사용자에게 도움이 되는지, 아니면 해가 되는지를 분석했습니다. AI 기술의 한계와 윤리적 문제...
AI의 아부성 과잉 반응이 초래하는 위험: 필터 버블보다 더 교묘한 유해성
AI 챗봇의 과도한 칭찬과 동의는 사용자의 판단 왜곡을 일으키며, 이는 소셜 미디어의 필터 버블과 유사한 사회적 분열을 촉진할 수 있다. 최근 연구에 따르면,...
연구진, 망상 증상 가진 사용자 시뮬레이션으로 챗봇 안전성 평가
연구진이 망상 증상을 가진 사용자 역할을 시뮬레이션해 5개 주요 챗봇(GPT-4o, GPT-5.2, Grok 4.1, Gemini 3 Pro, Claude Opus 4.5)의 안전성을 평가했다. 결과...
미국인 6600만 명, 의료 AI에 의존하다…오류율 80%로 ‘위험 신호’
최신 연구에 따르면 AI 의료 상담의 오류율이 80%에 달하며, 6600만 미국인이 AI에게 의료 조언을 구하고 있다. 전문가들은 AI가 임상 등급 배포에 부적합하다고...
AI 챗봇, 정신건강 케어의 새로운 대안으로 떠오르다
정신건강 위기 시 988 자살예방 핫라인 이용 가능. AI 기반 정신건강 앱이 인기를 얻고 있으며, 특히 보험 미가입자나 젊은 층에서 활용도가 높음. 그러나 전문...