AI가 검증한 의학교육 자료도 오류…"전문가 최종 감수 필요"

AI 자동검증 통과 자료서도 오류율 1.0% 확인

연구팀 설정 안전 기준 0.3% 웃돌아

전문가 최종 검증 ‘휴먼 인 더 루프’ 필요성 제시

인공지능 활용 영상의학 교육콘텐츠 생성과정. ⓒ서울아산병원

생성형 인공지능(AI)을 활용하면 전문적인 의학교육 자료를 빠르게 대량 생산할 수 있지만, AI의 자동 검증만으로는 정확성을 담보하기 어려운 것으로 나타났다. 자동 검증을 통과한 자료에서도 오류가 발견된 만큼, 실제 교육 현장에 적용하기 위해서는 전문가의 최종 검증을 거치는 체계가 필수적이라는 분석이다.

24일 서울아산병원에 따르면 김남국 융합의학과 교수·남유진 연구원과 홍파 삼성창원병원 영상의학과 교수 연구팀은 생성형 AI를 활용해 의학교육 자료를 제작하고 정확성과 안전성을 검증한 연구 결과를 최근 발표했다.

연구팀은 총 6단계로 구성된 생성형 AI 기반 교육 콘텐츠 제작 시스템을 개발해 영상의학 전문의 시험 대비 플래시카드 6000개와 인포그래픽 833개를 제작했다.

이어 AI의 자체 품질검증을 통과한 자료가 실제 교육에 활용할 만큼 정확한지 평가했다. 연구팀은 다른 의료 분야의 오류 기준을 참고해 허용 가능한 오류 비율을 0.3% 이하로 설정했다. 자료 1000개당 중대한 오류가 3개 미만이어야 한다는 기준이다.

이 가운데 플래시카드 1284개를 영상의학 전공의 9명과 전문의 11명 등 의료진 20명이 평가한 결과, AI 자동검증을 통과한 자료에서도 약 1.0%의 오류가 발견돼 연구팀이 설정한 안전 기준을 웃돌았다.

(왼쪽부터) 김남국 서울아산병원 융합의학과 교수, 남유진 연구원, 홍파 삼성창원병원 영상의학과 교수ⓒ서울아산병원

AI가 제시한 피드백을 평가자에게 함께 제공했을 때는 오류를 더 많이 발견하고 교육 품질도 엄격하게 평가하는 경향을 보였다. 연구팀은 전문지식과 AI의 판단이 상충할 경우 평가자들이 이를 비판적으로 재검토하면서 오류 탐지 능력이 높아진 것으로 분석했다.

연구팀은 이를 토대로 의료교육 콘텐츠 제작과 배포를 모두 자동화하기보다 전문가가 최종 검증하는 ‘휴먼 인 더 루프(Human-in-the-loop)’ 체계가 필요하다고 설명했다.

김남국 서울아산병원 융합의학과 교수는 “사용 빈도가 높아진 생성형 AI를 실제 교육 현장에서 안전하게 활용하기 위해서는 전문가의 검증이 반드시 필요하다는 점을 대규모 연구를 통해 입증했다”며 “자동 검증이 놓치는 오류를 체계적으로 관리하고 안전 기준을 마련하는 연구를 지속해 의학교육 현장에서 안심하고 활용할 수 있는 생성형 AI 환경을 구축할 필요가 있다”고 말했다.

제1저자인 남유진 서울아산병원 융합의학과 연구원은 “이번 연구는 생성형 AI가 의료영상 교육자료를 대량으로 제작할 수 있다는 가능성을 확인한 동시에, AI가 만든 학습자료를 그대로 사용하기보다 어느 단계에서 어떤 오류가 생기는지 체계적으로 분석하고 걸러내는 과정이 중요하다는 것을 보여준다”고 말했다.

연구 결과는 국제학술지 ‘네이처 파트너 저널 디지털 메디신(npj Digital Medicine, 피인용지수 18.0)’에 최근 게재됐다.