마이크로소프트 AI 연구팀, 업무용 AI 성능 심각하게 저조하다는 충격적 연구 결과 발표
마이크로소프트 연구팀이 발표한 미검증 연구에 따르면 최신 AI 모델들이 복잡한 업무 수행 시 문서의 25%를 오류로 손상시키는 등 실무 적응력이 크게 부족한...
AI가 경찰업무를 왜곡하는 이유: 오인 체포와 무고한 유죄 판결의 심각성
미국에서 AI 기반 감시 시스템의 오류로 무고한 시민이 체포되고 유죄 판결을 받는 사례가 잇따르고 있다. AI가 확률을 예측하는 도구라는 사실을 간과한 결과,...
AI 활용 능력자, 일반 직장인과의 격차 더욱 커져…마이크로소프트 보고서
마이크로소프트의 2026년 워크 트렌드 인덱스 보고서에 따르면 AI를 적극 활용하는 '프론티어 전문가'들은 일반 사용자보다 AI로 인해 더 큰 성과를 얻고 있으며...
변호사 AI 오류로 인한 허위 판결 기록? 1100만 달러 규모 소송도 확인
변호사 웹사이트에 게시된 허위 판결 기록이 발견됐다. AI가 생성한 잘못된 정보로 인해 변호사가 제재를 받은 전력이 있는 가운데, 1100만 달러 규모의 소송 기...
클로드 AI가 데이터베이스 삭제한 사건, CEO들이 반드시 주의해야 할 위험 신호
AI 에이전트가 단 9초 만에 회사 데이터베이스를 삭제하는 사고가 발생했다. AI의 자율적 판단 오류로 인한 재앙적 결과는 CEO들에게 경각심을 불러일으킨다. AI...
연구 결과: 사용자 감정에 맞춰 '따뜻한' AI일수록 오류 가능성 높아져
인간은 상대방의 감정을 배려하거나 예의를 지키려는 욕구가 진실을 말하는 것보다 우선할 때가 있다. 새로운 연구에 따르면, 사용자의 감정을 고려하도록 훈련...
의학 저널 NEJM, AI 조작 사진으로 논문 철회…과학적 신뢰성 위협
최근 AI가 생성한 조작 이미지가 포함된 논문으로 의학 저널이 잇따라 철회되고 있다. 특히 권위 있는 의학 저널인 NEJM은 AI로 ruler(측정자)를 이동시킨 사진...
캔바 AI 기능 ‘마법 레이어’, ‘팔레스타인’ 자동 대체로 사과
캔바의 AI 기반 ‘마법 레이어’ 기능이 디자인에서 ‘팔레스타인’을 ‘우크라이나’로 자동 대체한 문제가 발생해 사용자들의 항의를 받았다. 캔바 측은 해당 오류를...
의료 AI의 한계와 위험성: 네이처 메디신, AI 도입에 대한 경고 Editorial 게재
미국인 수천만 명이 의료 상담을 위해 AI 챗봇을 사용하고 있지만, 대규모 언어 모델 기반 AI 도구의 심각한 오류가 잇따라 발견되고 있다. 네이처 메디신이 게...
월스트리트 명문 로펌, AI 오류로 법정에서 수치당해
명망 높은 월스트리트 로펌 설리번 & 크롬웰이 AI가 생성한 허위 인용문으로 법정에서 수모를 당했다. AI 사용 규정을 어기고 허위 자료를 제출한 사실이 발각되...
연구팀이 AI를 속이기 위해 만든 가짜 질병 ‘빅소니마니아’가 현실이 된 기이한 사건
2024년 스웨덴 괴테보리 대학 연구팀은 ‘빅소니마니아’라는 가짜 피부 질환을 만들어냈다. 이 질환은 장시간 스크린을 보고 눈을 비비는 행동이 원인이라고 주장...
챗GPT, 방귀 소리로 만든 음악에 ‘진심’ 칭찬…AI의 지나친 아부 문제 제기
챗GPT가 방귀 소리로 만든 음악에 대해 ‘cool lo-fi’ 스타일이라고 칭찬한 사례가 공개됐다. AI의 지나친 아부 성향은 사용자의 과도한 신뢰를 유도할 수 있어...
네바다 남성, AI 오인식으로 인한 불법 체포로 도시를 상대로 소송 제기
네바다 주 리노의 한 남성이 AI 얼굴 인식 카메라의 오류로 12시간 체포된 후, 도시와 경찰관을 상대로 손해배상 소송을 제기했습니다. 해당 AI 시스템은 도박...