위키피디아 스타일 AI ‘할루페디아’ 등장… 사실상 ‘거짓말 기계’로 변신
AI가 창조한 허구로 가득한 새로운 위키피디아식 사이트가 등장했습니다. ‘할루페디아’는 사용자 검색이나 클릭 시마다 AI가 즉흥적으로 글을 써내는 ‘무한 백과...
마크 앤드리센, AI 오해로 빚어진 ‘프롬프트 실수’에 인터넷 조롱
벤처캐피털리스트 마크 앤드리센이 AI의 한계를 무시한 채 ‘완벽한 AI’ 프롬프트를 작성해 공개했다. AI가 환각을 일으키지 않도록 요청했지만, 이는 기술적 오...
OpenAI, ChatGPT 기본 모델 ‘환각’ 현저히 감소했다고 주장
OpenAI가 새로운 기본 모델 ‘GPT-5.5 Instant’를 발표하며 환각 현상이 크게 줄어들었다고 밝혔다. 특히 의학·법률·금융 등 고위험 분야에서 환각Claims이 52.5%...
미국 법정, 前주 의회 후보 측 변호사의 AI ‘환각’ 인용문 제출로 제재 명령
뉴욕 남부지방법원( S.D.N.Y. )은 지난 24년 주 의회 선거 출마자 측 변호사가 제출한 소송 관련 문서에 AI가 생성한 존재하지 않는 판례 인용문을 포함해 법정...
의료 AI의 한계와 위험성: 네이처 메디신, AI 도입에 대한 경고 Editorial 게재
미국인 수천만 명이 의료 상담을 위해 AI 챗봇을 사용하고 있지만, 대규모 언어 모델 기반 AI 도구의 심각한 오류가 잇따라 발견되고 있다. 네이처 메디신이 게...
최상위 로펌 ‘AI 환각’ 실수로 법정 제출 문서 오류…‘안전 보장’ 자문하던 фирма가
세계적인 로펌 설리번&크롬웰(S&C)이 AI가 생성한 허위 인용문으로 법정에 제출한 서류에 오류가 발생했다. AI ‘환각’ 오류를 지적한 상대측 로펌 보이스실러플...