AI 허위 인용문 과학 신뢰성 연구 윤리 학술 연구

학술 논문의 인용문은 과거 연구를 근거로 삼아 연구의 뿌리를 설명하는 ‘가계도’와 같은 역할을 한다. 그러나 최근 들어 인용문이 실제 논문을 가리키지 않는 ‘허위 인용문’이 급증하고 있는 것으로 나타났다.

영국의학저널 란셋에 7월 11일 게재된 새로운 연구에 따르면, AI 기반 생성형 도구가 이러한 허위 인용문을 양산하는 주요 원인으로 지목됐다. 컬럼비아 대학교 연구팀은 AI가 생성한 ‘환각(Hallucination)’ 현상이 인용문 오류로 이어지고 있다고 분석했다.

AI가 만든 가짜 인용문, 과학계에 심각한 위협

연구팀은 AI가 생성한 허위 인용문이 실제 논문을 대신하고 있으며, 이는 과학 기록을 오염시키고 신뢰성을 떨어뜨리는 심각한 문제로 지적했다. 특히 AI가 생성한 인용문은 그럴듯한 형식과 출처를 갖추고 있어 검증이 어렵다는 점이 문제로 지적된다.

AI ‘환각’ 현상, 어떻게 발생하는가?

AI가 생성형 도구를 통해 인용문을 만들 때, 실제 존재하지 않는 논문이나 잘못된 출처를 제시하는 경우가 빈번히 발생한다. 이는 AI가 학습 데이터에서 패턴을 추출해 답변을 생성하는 과정에서 발생하는 ‘환각’ 현상으로, 사용자가 이를 인지하지 못하고 그대로 활용할 경우 심각한 오류로 이어질 수 있다.

“AI가 생성한 인용문은 실제 논문을 대신할 수 없으며, 과학계의 신뢰성을 훼손할 위험이 있다.” – 컬럼비아 대학교 연구팀

연구계의 대응 방안은?

연구팀은 AI를 활용한 논문 작성 시 인용문의 정확성을 철저히 검증할 것을 권고했다. 또한 AI 도구 개발업체들에게는 인용문 생성 시 신뢰성 있는 출처를 명시하도록 요구할 필요가 있다고 강조했다. 한편, 학술지 편집자들은 AI가 생성한 인용문을 감지할 수 있는 시스템 도입을 고려해야 한다는 지적도 제기됐다.

AI와 학술 연구의 미래

AI는 연구 효율성을 높이는 데 기여하고 있지만, 허위 인용문과 같은 오류는 과학의 투명성과 신뢰성을 위협한다. 연구자들은 AI 도구의 한계를 인지하고, 인용문의 정확성을 확인하는 절차를 강화해야 할 필요가 있다.

출처: STAT News
파라마운트, '퍼러노말 액티비티' 게임 프로젝트 중단 선언
← 이전

파라마운트, '퍼러노말 액티비티' 게임 프로젝트 중단 선언

 이번 주 주말에 봐야 할 Netflix, 훌루, 디즈니+ 인기 신작 8선
다음 →

이번 주 주말에 봐야 할 Netflix, 훌루, 디즈니+ 인기 신작 8선