AI 과학 신뢰성 AI 오류 의학 NEJM 논문 철회 의료 연구

AI가 만든 '꼬인 ruler'로 NEJM 논문 철회

최근 AI가 생성한 조작 이미지가 포함된 논문으로 의학 저널들이 잇따라 철회되고 있다. 특히 권위 있는 의학 저널인 뉴잉글랜드 저널 오브 메디신(NEJM)은 AI로 ruler(측정자)를 이동시킨 사진을 게재했다가 철회하는 일이 발생했다. 이는 AI가 과학 연구에 미치는 부정적 영향을 보여주는 대표적 사례다.

사건의 발단: AI가 만든 '꼬인 ruler'

NEJM은 지난 8월 중국 베이징 연구팀이 제출한 논문을 철회했다. 이 논문은 산불로 인한 연기 흡입으로 환자의 폐에 '기관지 주형(Bronchial Casts)'이 형성된 사례를 다룬 것이었다. 그러나 논문에 포함된 사진에서 ruler의 숫자가 무작위한 순서로 표시되어 있었고, 이는 AI 이미지 생성기의 전형적인 오류로 지적됐다.

MedPage Today에 따르면, 해당 환자는 베이징 칭화대 창궁 병원 응급실에 실려온 87세 남성으로, 산불 연기로 인한 심각한 기도 폐쇄로 기관지 조직이 제거됐다. 그러나 사진에서 ruler가 AI에 의해 이동되면서 숫자가 꼬인 상태로 게재된 것이다.

연구팀의 해명: '단순한 실수'

연구팀은 retraction note(철회 공지)에서 "저널의 이미지 조작 정책을 인지하지 못한 채 AI 도구를 사용해 ruler를 위로 이동시켰다"며 "이미지와 case report를 철회하겠다"고 밝혔다. 그러나 연구팀은 원본 이미지를 제공하지 않았고, 소셜 미디어 사용자들은 사진의 다른 부분도 AI로 조작됐을 가능성을 제기했다.

연구팀은 "환자가 위급한 상태에서 ruler가 기울어진 각도로 촬영됐고, 이를 더 보기 좋게 조정하기 위해 ruler 위치만 이동시켰다"며 "원본 임상 자료는 이미 NEJM 편집부에 제출했으며, ruler의 숫자 조작은 없었다"고 주장했다. 그러나 AI가 생성한 ruler의 오류는 이미 과학계의 큰 우려를 사고 있다.

AI 조작 논문, 과학계에 경고

이번 사건은 AI가 과학 연구에 미치는 부정적 영향을 다시 한 번 보여준다. AI 이미지 생성기는 단순한 조작조차도 오류를 일으킬 수 있으며, 이는 연구의 신뢰성을 심각하게 훼손할 수 있다. 과학자들은 AI가 생성한 이미지를 무분별하게 사용하지 않도록 주의해야 한다는 경고를 받고 있다.

NEJM의 철회는 AI가 과학 연구에 미치는 부정적 영향을 보여주는 대표적 사례다. 앞으로 AI가 생성한 콘텐츠를 어떻게 관리하고 검증할 것인지에 대한 논의가 필요할 것이다.

"단순한 ruler 이동조차도 이 정도로 오류를 일으킬 수 있다면, 다른 조작은 얼마나 많은지 우려스럽다."
– 익명의 과학자

출처: Futurism
페터만 상원의원이 공화당의 미래를 바꿀 것인가?
← 이전

페터만 상원의원이 공화당의 미래를 바꿀 것인가?

 2001년 마이크 스위니 vs 제프 위버: 역대 가장 이색적인 마운드 돌입 사건
다음 →

2001년 마이크 스위니 vs 제프 위버: 역대 가장 이색적인 마운드 돌입 사건