“의료에서 혁신은 항상 양날의 검이다.”

김휘영 연세대학교 의과대학 의생명시스템정보학교실 교수는 24일 ‘디지털헬스케어의 발전과 규제, 합리적 개선방안’을 주제로 국민일보와 쿠키뉴스가 주최한 ‘2023 미래의학포럼’에서 이 같이 말했다.

김 교수는 ‘왓슨에서 챗GPT까지 의료AI의 현재와 미래, 적용 가능성, 그리고 규제의 가능성’이란 주제의 기조강연을 통해 최근 화제가 된 챗GPT(chat GPT) 같은 생성형 인공지능(AI) 챗봇이 의료 분야에 적용됐을 경우 대표적인 ‘양날의 검’이 될 수 있다며 적정한 규제가 마련돼야 한다고 했다.

AI 챗봇은 정보와 지식을 바탕으로 어느 정도 의학적 문제에 대한 추론이 가능해 보건의료 임상현장에서 유용하게 쓰일 수 있지만, 잘못된 데이터가 활용되면 전혀 다른 엉뚱한 답을 내놓을 수 있다는 우려가 있다.

김 교수는 “활용 가능한 의료데이터 수는 폭발적으로 증가하고 있다. 환자 한 명에게서 유전데이터, 마이크로바이옴 등 다양한 데이터를 뽑아낼 수 있다”며 “이 많은 자료를 통해 정확한 진단법과 치료 계획을 세우려면 의료 전문가만의 힘으로는 불가능해 계산기가 필요한데, 이 계산기가 바로 AI다”라고 말했다. 

이어 “AI 챗봇은 사용된 데이터와 의학적 지식을 기반으로 주어진 의학적 문제에 대한 답을 내놓을 수 있다”며 “게다가 일반적인 지식도 갖고 있기 때문에 여러 맥락에서의 의학적 추론이 가능하다”고 설명했다.

하지만 의료AI에 대한 적절한 규제는 꼭 필요하다고 했다. 안전성 때문이다. 김 교수는 “대규모 생성형 AI는 잘못되거나 편향적인 데이터를 학습했을 경우 스스로를 평가하고 개선할 수 없다”며 “AI 등 혁신기술은 의료에서 전에 없던 새로운 희망과 기회를 제공하기도 하지만 적절한 규제가 없다면 환자 안전성을 보장할 수 없다”고 경고했다. 

그러면서 “합리적인 규모의 모델 개발과 운영을 위해 의료AI 개발, 상업화, 활용 단계에서 보다 세심한 고려가 필요하다”며 “생성형 AI의 원리를 이해하고 논의하는 공론화의 장이 필요하다”고 강조했다.

신대현 기자 sdh3698@kukinews.com