https://www.clien.net/service/board/park/18962928
클리앙에 제목과 같은 주제로 글이 하나 올라왔는데, 뜨거운 호응과 달리 사실관계가 너무 심하게 왜곡이 되있는거 같아 정정할 겸, 정말로 의사가 인공지능에 의해 대체될 수 있는가에 대해 글을 써봅니다.
해당 글에선 위의 그래프를 가지고 이걸 근거로 AI가 의사보다 더 정확하게 진단을 하니 의사는 인공지능에게 대체되는 운명이라는 주장이 올라왔더군요. 저렇게 의사가 GPT4를 활용해 진단하는 것보다 GPT4 단독 진단이 더 정확했다는 데이터가 어디있는가 확인해봤습니다. 출처가 표시되 있어서 자료는 쉽게 찾을수 있었습니다.
해당 pdf 자료의 25페이지에 이러한 내용을 설명하고 있는 내용이 있더군요. 실제로 해당 실험에 대한 자세한 내용은 출처에 나오지 않고 따로 논문으로 발표되어 있습니다. 논문 링크는 아래에 있으니 직접 전문을 확인할 수 있습니다.
https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2825395
위의 논문에서는 GPT4 단독진단이 의사의 진단이나 의사가 GPT4를 활용해 진단할 때보다 정확도가 높았다는 데이터에 주목하고 있지 않습니다. 의사가 GPT4를 활용했음에도 진단의 정확도가 거의 늘어나지 않았다는 사실이 훨씬 더 중요하고, 이건 GPT4가 의사들에게 제대로 된 도움을 주지 못하고 있다는 문제점을 지적하는 근거로 제시되고 있습니다.
또한, GPT4 단독진단의 정확성이 가장 높았다는 결과를 LLM이 의사의 감독 없이 자율적으로 진단에 사용되어야 한다는 것을 나타내는 것으로 해석되어서는 안된다고 분명히 못박고 있습니다. 그 이유에 대해서도 잘 설명하고 있는데, 해당 연구는 환자 인터뷰 및 데이터 수집을 포함하여 임상 추론에 중요한 다른 많은 영역에서 GPR4를 활용하지 않았기 때문에 당연히 모든 영역에서의 종합적인 역량을 비교하는게 불가능했기 때문입니다.
애초에 현재 수준의 인공지능은 LLM 이 되었든 뭐가 되었든 의사의 진단과정의 모든 영역을 종합했을 때 전혀 대체할 수가 없는 상태입니다. 아직까지는 의사를 인공지능이 “대체”하는 그런 건 언감생심 꿈도 못꾸는 상황이기 때문에 지금은 의사가 GPT4를 활용했을 때 조금이라도 더 진단의 정확성이 올라가는 걸 목표로 인공지능을 개발하고 있다는거지요.
물론 20년 후에도 지금처럼 인공지능이 의사를 대체하지 못한다고 자신있게 말할 수는 없겠죠. 인공지능이라는 게 이른바 특이점이 올거라는 예측이 워낙 무성했는데 그걸 마냥 무시할 수는 없는거죠. 그런데, 아무리 인공지능의 특이점이라는 게 존재한다고 해도 현재와 같이 언감생심 대체하는 건 꿈도 못꾸는 단계에서 갑자기 짠! 하고 의사 대체할 수 있는데,,, 이렇게 퀀텀점프를 할 수는 없습니다.
일단 민감도를 충분히 올리는 단계, 그 다음은 정확도, 그 다음은 특이도, 최종적으로는 음성예측도를 인간보다 더 높이면 특수한 상황에서 의사를 대체할 수 있겠죠. 그러다가 더 발전해서 여러 예측 불가능한 돌발상황에 대한 대처능력까지 확보를 하다보면 진단영역에서는 진짜로 의사라는 직업이 멸종하게 될 수도 있는거지요. 그런데 지금은 민감도나 정확도 수준도 특정 영역에 한해서만 의사를 넘어섰다고 인정되는 상황입니다. 앞으로 넘어야 할 고비가 한둘이 아니라는 거지요.
환자의 인터뷰나 검사 수치를 가지고 추론하는 verbal language 수준에서도 상황이 이런데, 영상 판독은 한참이나 멀었습니다. 지금 출시되어있는 인공지능 판독 프로그램들 중에서 실제 판독 현장에서 정말 도움이 되는 프로그램은 한두개 정도 밖에 없어요. 오히려 프로그램에 지나치게 의존했다가 매우 critical 한 질환을 놓칠 뻔 했던 경험을 두 번 겪어본 적이 있어서 쓰지 말아야 하는 프로그램도 존재한다는 게 제 개인적인 생각입니다. 적어도 앞으로 10년에서 15년 정도까지는 인공지능이 의사나 영상의를 “대체”하는 일은 없는게 맞아요. 최대한 기대할 수 있는건 의료현장에 필요한 의사의 수를 줄이고 의사 한 명이 할 수 있는 업무량을 늘리는 정도겠죠. 하기사 그정도만으로도 의대 정원은 크게 줄여야 할 수 있다는 건 저도 인정합니다.
어쨋던 인공지능의 현황에 대해 잘 정리된 좋은 자료가 정작 잘못 인용되고 실제 의미가 와전되어서 의사들 다 굶어죽게 생겼다는 식으로 이야기가 퍼지면 현재 의대생이나 의대를 지망하는 꿈나무들, 또는 영상의를 꿈꾸는 분들이 잘못된 정보로 뜻을 꺽게 될지도 모르겠다는 걱정이 앞서서 글을 써봤습니다.
수면제의 까리한 시선 