:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/07/28 10:40
(수정됨) 너무 장문의 글 죄송합니다. 세줄 요약입니다.
1. LLM은 의료비 폭증 위기의 가장 중요한 해법 중 하나임 2. 전문가들의 역할 재정의와 사회적 수용이 필요하다. 3. 이미 좀 늦었고, 잘못하면 대형 모델에 체계가 종속될 가능성도 있다. 빨리하자
25/07/28 10:48
수술실 CCTV나 기타 의료소송 관련한 의사집단의 거부감을 볼때 LLM의 오진에 대해 의료진이 책임지진 않을거고, LLM 제공 업체에서도 책임지진 않을텐데 그럼 누가 책임져야 할까요? 게다가 전문가 역할 재정의는 이번 사태로 불가능하다는게 입증된 이상 LLM 도입은 요원해보입니다.
25/07/28 10:55
1. LLM 도입 초기는 공제 형태로 가야되지 않나 생각합니다.
2. 전문의 역할도 LLM을 활용해서 의료서비스를 제공하고 법적 책임과 판단의 최종 결정을 담당하는 의사가 별도로 존재하는 시스템이 되지 않을까 예상은 해봅니다. 그래도 그게 비용이 훨씬 더 싸지는 방향이라면 그렇게 가야겠지요. 의사의 기능도 일부 축소될꺼구요. 이제 의료 제도는 국민 vs 의료계 vs 관리자(정부)의 치열한 싸움이 될 겁니다. 파티는 끝나가거든요. 저는 LLM 기반, 플랫폼 기반 진료 도입이 어떻게든 의료계 반발을 넘어가야 할 더 큰 문제라고 봅니다.
25/07/29 04:04
원래 AI는 최종 결정권자가 되도록 하지 않는게 기본입니다. 이미지/예술 등과 같은 애매모호하거나 작은 오차가 허용되는 분야가 아니면 AI는 확률모델이라는 점이 큰 단점이 되어버리는거죠. 그래서 의료계에서는 AI로 최종적인 진단을 하는게 아니라 1차 진료 도구로서 활용되어서 진짜 전문의에게 보내기전에 필터링/라우팅하는 역할을 하는게 더 맞는 방향이라고 봅니다. AI가 최종 결정권자가 되는 자동운전은 아직 멀었지만, 의료계에서는 충분히 도입 가능한 부분은 많이 있다고 봅니다.
25/07/28 10:57
현재 관련 작업을 하고 있어서
이런 이야기하긴 좀 그렇긴 하지만 한국은 이미 많이 늦었습니다. 그리고 각 병원이나 학교마다 데이터 셋 사용하는 데 너무 폐쇄적입니다. LLM하는 데 환자의 N수가 너무 작습니다. 그리고 LLM한걸 다시 MD들과 정확성에 대한 비교 판독을 해야 하는데 이 Pool도 너무 적습니다. 아니 적은게 아니라 협조가 잘 안됩니다. 단순히 인턴, 레지던트만 비교해야 하는 것이 아니라 전문의급 이상과 모아서 판독률 비교를 해야 하는데 비용도 어마어마하고 학회에 가서 그냥 사은품 주고 하는 것 정도로 할 수가 없습니다. 공식적으로 테스트 비교한다라고 하고 진행해야 되서요. 결론적으로 주어진 연구비로 한국에선 못합니다. 딴나라 (인도나 나이지리아 정도)에서 주어진 연구비 가지고 하던가 아니면 연구비를 많이 받던가 하지 않으면 힘듭니다.
25/07/28 11:01
환자 데이터가
종속되 버립니다. 이것 때문에 당뇨환자 CGM 관련 알고리즘을 카카오헬스에서 미국회사 Dexcom껄 쓰고 있고 결국 한국 당뇨환자 혈당 데이터가 미국으로 넘어가고 있어서 후발주자들 (국내업체)가 따로 LLM을 만들어 환자 데이터를 가지고 할 껀덕지가 없어졌습니다.
25/07/28 11:02
물론 한국인 전용 LLM을 못만드는 건 아쉽지만, 그게 환자 입장에서 문제가 될까요?
위고비가 한국 거 아니더라도 잘들 쓰고 있는데..
25/07/28 11:05
(수정됨) 환자한테는 문제가 안되겠지만
의료수가가 높아질 가능성이 있습니다. 국내기업이 없어 경쟁이 안되니까 해외회사에서 사용료 올려버리면 답이 없으니까요. 덕분에 원가 2달러 정도 되는 CGM에 15만원 이상으로 책정되 버려서 웬만해서는 전체 당뇨환자가 쓰기 힘들어 졌고 후발 주자들이 이 CGM을 만들어도 특허 때문에 단가를 낮출수 없는 상황이 생겼습니다. 이런 문제는 단순히 한국에서만 나온게 아니라 Dexcom이 있는 미국의 2024년 미국당뇨학회 특별 세션까지 마련해서 미국 의사들까지 성토할 정도였습니다. (제가 직접 가서 들었습니다.)
25/07/28 11:07
그건 모든 서비스가 그렇잖아요. 한국에서 유튜브, 위고비 못만들어서 외국에서 비싸게 사야한다는 이야기나 같은 걸요.
어쩔 수 없는 일이라 생각합니다. 국내 통신사들 하는 거 보면 만약 카카오헬스와 UNH헬스가 경쟁을 하는 상황이라 해도 카카오가 UNH 가격에 비슷하게 책정할 것 같네요.
25/07/28 11:10
문제는 한국에서 그렇게 할 수 있는데
(CGM자체의 대한 기술을 못하는 건 아니라서) 병원이나 학교끼리의 데이터 공유에 대한 인식이 부족해 그 환자 데이터를 해외에 무상으로 넘겨주는 결과가 된다는 겁니다.
25/07/28 15:50
moqq님 의견에 동의합니다. 너무 비싸다면 어차피 경쟁업체가 뛰어들게 되어 있는 시장이고, 특히 우리나라에선 의느님들 몸값보단 거의 무조건 쌀 수 밖에 없습니다.
25/07/28 11:12
저도 요즘 관련 업계인이라 볼 수 있는데, 데이터의 폐쇄성이 말도 못할 정도입니다. 저도 공공데이터 개방을 위해 정말 열심히 뛰는데
'회사에서 돈받았냐?' '국민 개인정보로 장사가 웬말이냐' 이 수준을 못벗어나거든요. 또 초대형병원의 DB라고 해봐야 글로벌 레벨에서는 경쟁력이 아슬아슬한데 그럼 우리 병원에 지분을 주냐, 내부 연구자 아니면 못준다 이렇게 되니 또 어렵구요.
25/07/28 11:18
이게 또 웃긴게
학교내에서도 같은 증상에 대해 직접 환자로 부터 데이터를 IRB승인을 받아 취득한 의사외에 같은 병원의 다른 의사의 데이터를 사용하는 데도 참 어렵습니다.
25/07/28 10:57
(수정됨) LLM오진에 대한 책임은 생각보다 쉬운 문제일 수 있다 생각합니다.
솔직히 인간의사의 오진으로 왼팔이 아니라 오른팔을 절단했다고 한들 인간의사가 뭘 책임질 수 있나요? 어차피 책임이라는 건 보상의 문제일 뿐입니다. 만약 삼성생명에서 삼성의료원에 LLM을 도입하고 이를 이용하여 진료를 받은 경우 보험료를 지급하며, 오진 시 보상을 한다고 하면 실현가능하지 않을까요? 그리고 한국이 안한다고 해도 중국이나 미국이 AI와 원격진료를 도입해서 저렴하게 문제없이 굴리면 한국 사람들도 원하게 될 거라 봅니다.
25/07/28 11:22
삼성의료원이 지금 그런 방향으로 하고는 있습니다만
(그쪽이야 의료기기 회사랑 바이오 회사를 가지고 있긴 해서) 한국의 삼성계열 병원하고 다른 병원하고는 일하기는 힘들어 해외 업체와 연계해서 할려고는 하는데 상당히 제한적이라서요.
25/07/28 11:10
여러 의사에게 진료받듣이 여러 LLM에게 진료받으면 오진은 해결 될 것 같습니다.
AI를 통해서 의사 면허 자체가 필요없는 시대를 향해가고 있는건 부정할 수 없을 것 같고, 그게 굉장히 빠르게 온다면 아마도 과도기 동안 겪을 문제 또한 순식간에 사라질 수도 있습니다.
25/07/28 11:11
오진 이야기는 크게 의미가 없는게... 오진이 아예 없어야 할 필요는 없습니다. 사람이 해도 오진은 나와요. 책임은 병원에서 져야 하잖아요. 소송 환자가 이기기 어렵다 이야기 맨날 나오고요.
ai가 인간보다만 오진이 적으면 되는거고, 책임도 똑같이 ai도입한 병원에서 지면 됩니다. 감정적인 부분을 떠나서 생각해보면 오히려 비용은 더 줄어들겠죠. 그리고 오진 관련해서 인정하지 않는 병원 의사 이런 부분은 오히려 줄어들테니... 환자들의 불안감도 오히려 덜할껍니다.
25/07/28 11:14
만약 AI의 권고에 따른 치료로 환자에게 해가 발생했을 때, 그 책임은 누구에게 있는가? AI를 개발한 회사, 이를 도입한 병원, 아니면 AI를 신뢰한 의사 중 누구의 책임인가?
AI의 발전에 따라 이건 반대를 물어봐야 하는 시점이라고 봅니다. 만약 AI의 권고와 다른 치료로 환자에게 해가 발생했을 때, 그 책임은 누구에게 있는가? KBO 에서 ABS가 도입된 후 도입전 예상과 달리 ABS 에 대한 심판의 만족도가 높고 선수의 만족도가 낮다는 점 등을 생각하면 AI가 도입되면 의사들이 먼저 AI의 권고에서 벗어나지 않으려고 할지도 모릅니다. 물론 그저 공놀이인 야구와 생명이 오고가는 의료에서 치명성은 어마어마한 차이가 있지만, 의사와 환자간의 정보 비대칭성이 해소되었을 때 위험성을 의사가 부담할 수 없을 것 같습니다.
25/07/28 11:26
의사들이 AI를 도구로 써서, 서비스의 양과 질을 높여줘야겠지요. 그 AI는 미국에서 만든 걸 쓰면 되고요. 어차피 자본도 의지도 없는데, 저항하기보다는, 빠르게 받아들이는게 좋을 수 있다고 봅니다. 의료 서비스의 질과 양으로인해, 국민들이 받는 이로움을 생각해야 합니다. 원격 진료도 활발해지는게 좋다고 보고요. 규제개혁이 필요할 것이고, 의사들이 반발할 수 있겠지만, 의대정원 고정으로 인해, 국민들의 반감이 강해져서, 의사들의 반발이 성공할 가능성은 낮아진 거라 봅니다.
최종결정은 의사가 하고, 책임도 의사가 지고, 그러나 도구로 AI가 활용되면 되는 것이고, 위험하지 않은 선에서는 의사 없이도 AI를 활용해서 일반 국민들도 자신의 건강을 더 양호하게 관리해나가면 되는 거라 봅니다. 예방조치나 신속조치나 기타 건강관리로 인해 사람들이 건강해지면, 환자가 줄어든다는 의미가 되겠지만, 앞으로 고령화시대라 노화에 의해 의료비가 늘어날 테니, 의사가 잘 먹고 사는데는 지장없을 거라 봅니다. 다시 강조하자면, 의료 AI를 외국 것을 막고, 국내화하겠다는 것은, 도서정가제와 유사한 거라 봅니다. 중요한 것은 사람들이 책을 많이 읽게 하는 것입니다. 무엇이 중요한지를 생각해야 합니다. 마찬가지로 중요한 것은 사람들의 건강과 의료비 절약입니다. 국내 의료 LLM을 전세계적으로 활발히 수출할 의지가 있고 그에 합당한 자본을 투자하는게 아닌 이상, 아예 투자를 하지 말고, 그냥 외국 것 가져다가 잘 쓰면 되는 거라 봅니다. 중요한 건 독서와 건강이고, 어차피 의지도 없으면서, 이도저도 아니게 하는 건, 전략적으로 어리석은 선택이 될 것입니다.
25/07/28 11:31
다시 강조 :
전략시뮬레이션 게임이라 생각해봅시다. 이도저도 아니게 하는 건, 어리석은 선택이 될 것입니다. 의료 문제만 이런게 아닙니다. 임팩트있게 전략적으로, 투자할 건 과감히 하고, 포기할 건 과감히 포기하는게 좋다고 봅니다. 이것저것 다 하기에는, 자본이 부족하고 인재가 부족합니다. 성공시키기 위한 자본의 규모와 인재의 질을 과소평가해선 곤란할 것입니다.
25/07/28 11:35
말씀하신 내용이 참 공감이 많이 갑니다. 하지만 의료는 대부분의 재원이 직접적인 국민 부담으로 구성이 되는 것이라 그 부분 상당수가 외국으로 직접적으로 유출된다는게 고민입니다. 물론 외국의 foundation model을 쓰는게 훨씬 비용절감이 된다면 그렇게 갈 수도 있겠지만, 유사한 정도의 서비스를 만들어낼 수 있다면 그 고민은 좀 적어지겠지요.
25/07/28 11:42
의료비는 엄청난 부담이라 봅니다. 결과적으로 외국 AI를 쓰는게 의료비를 많이 줄이는데 도움이 될 거라 봅니다. 동일한 불건강을 다루는데 들어가는 비용뿐만 아닙니다. AI 의료서비스로 인해 신속하고 적절하게 대처함으로써, 더 심한 불건강으로 빠지는 걸 막는것도 중요합니다. 여유없는 집에서는, 의료비로 인해 재산을 모두 잃고 파산할 위험도 있는 거라 봅니다. 그에 대한 불안도 큰 것이고요. 의료비는 저출산의 원인 중 하나이기도 하겠죠. 독서율을 늘리는게 사소한 문제가 아니듯, 의료비를 줄이는 건 사소한 문제가 아니라 봅니다. 물론 그로인해 외화가 유출될 것이나, 다른 분야에서 수출 잘 하고 벌어들이면 될 것입니다.
25/07/28 11:26
개인적으로는 공상과학소설급 이야기입니다만,
한국의 건강보험제도와, 보험제도의 급여수급의 기초자료는 사실상 거의 모두 보관되고 있고 이 데이터만 제대로 학습해서 운영할 수 있다는 전제를 깐다면, 국가주도 기준으로 의료AI를 구축하는것도 가능하리라 봅니다. 결국 그 기반행위가 이야기하신 서술의 흐름처럼 판단과 계획수립보다, 술기의 영역(여기도 로봇으로 대체가능성은 존재합니다만) 위주가 되게 될 확률이 높고, 사실 1차 진료시에 꽤 많은 도움을 줄거라고 생각을 하는데, 국가주도 기반으로 가는것에 대해서는 어떻게 생각하시는지도 궁금합니다.
25/07/28 11:33
안타깝게 한국의 공공자료는 결정적으로 환자치료과정에 대한 정보가 없습니다. 예를 들어 무슨 검사를 받았다는 기록과 그 금액은 데이터화되어있는데, 그 검사 수치에서 뭐가 나왔는지에 대한 정보가 부재합니다. 이는 매우 결정적인 문제라 우리나라 공공자료의 활용은 정말 한정적입니다. 저야 물론 그 자료원으로 논문을 쓰지만 그게 임상적으로 도움이 될만한 정보가 될지는 회의적입니다.
25/07/28 11:41
(수정됨) 생각보다 디테일하게 데이터 컨트롤이 되던게 아니었나보네요, 저는 거의 모든 데이터를 다 수집해서 가지고 있을거라고 생각했는데
이정도라면 무리가 있어보이는게 맞아보입니다.. 혹시 medgemma 라고 들어보시거나 활용 후기가 있으신지도 궁금합니다.
25/07/28 11:34
병원들과 의사들이 환자 데이터를 연구자들에게 공개하지 않으면 답이 없는 문제입니다.
병원들은 부가가치의 가장 큰 파이를 병원 소유로 하기 위해서 데이터 공개를 안 하면서 AI 역량을 내재화하려는 방향으로 나아가려는 것 같은데... 그러다가 글로벌 속도경쟁에서 밀리게 되는 것이 염려됩니다.
25/07/28 11:53
의사를 위한 법령이 아니고 의학 연구자들이 환자의 동의 없이 환자의 개인정보를 연구에 활용하는 것에 제한을 두기 위한 윤리적 허들입니다.
그거 없애면 제일 크게 이득 볼 사람들이 대학병원 의사들이고요.
25/07/28 15:33
글쎄요 개인정보가 요새 워낙 강화되서.. 바로 앞에 진료본 친구 얘기도 물어보면 답 안해주는 상황인데요... 나라에서 요구하고 법으로 보장 되고 환자 본인 보호자 모두 동의해야 가능한 일일겁니다.
25/07/28 11:45
(수정됨) 자유민주주의를 찬양하는 이들은 어찌 받아들일지 모르겠지만 이런 분야에서는 독재국가인 중국이 빠를 수 밖에 없습니다.
자유민주주의를 통해 개인들이 깨어있고 자유로운 두뇌를 성장시키고 개개의 인권과 의지를 중시하는 사회환경이 고도화된 과학을 발달시킨다? AI와 고도화된 소프트 공학이 등장하고 이런 고정관념이 깨지고 있죠. 요즘은 그런 시대가 아닙니다. 그냥 공산당이 동의 없이 환자들의 DATA 수집하고 사회 생활중에 이런저런 DATA 수집하고 가족들 병력 포한 사회 DATA 수집해서 국가 인재들을 갈아서 각 기업들이 파편화된 정보를 다루는게 아니라 정권의 통제하에 효율적인 정보 처리 작업이 이루어지고 의료 사고 이런건 무시하고 오로지 기술의 고도화만 추구한다면 당연히 발전이 없다면 이상한거겠죠. 미국이나 중국이 뭘 만들면 돈을 내고 따라가야 하는게 우리나라 AI 의료의 다가올 미래가 아닐까? 하고 암울한 예측을 해 봅니다.
25/07/28 11:47
(수정됨) 의대와 의사들이 의료 정보를 독점하다가 LLM으로 평준화되가면서 어느정도 지능 이상이면 LLM과 의료 정보를 주고받는게 일상화될거라고 봅니다.
정부가 의사 공급을 막고 의대 + 전공의 수련기간이 10년 가까이 되는 과거의 시스템으로는 AI에 잡아먹힐겁니다. 미래엔 비수술과는 2-3년 교육으로 대체될겁니다. 결국 AI는 연봉이 비싼 직업부터 하나씩 대체할거고 공급제한으로 연봉이 부풀려져있는 의사가 꽤 빠른시한내에 대체될겁니다.
25/07/28 11:50
공공의대 증원 400명에도 꿀통 깨진다고 '덕분에챌린지'하면서 난리도 그런 난리가 아니었는데, AI가 의료비용을 낮춘다고(=의사 소득 감소) 하면 의료계에서 절대 가만히 안 있겠죠.
국가가 특정 집단에 무릎을 꾸는 순간 그 분야에서 국가는 정책을 낼 수가 없겠죠. 매우 회의적입니다.
25/07/28 15:48
중국이 산아제한 정책을 늦게 풀게된 이유가 수십만에 달하는 2자녀 감시인력들의 권력때문이라고 들었습니다. 그들이 2자녀를 불법적으로 낳은 고위층의 정보들을 많이 갖고 있어서, 그들의 이익에 반하는 산아제한정책 철폐를 적절한 타이밍에 하지 못했다는 것이죠.
어려운 문제일겁니다. 중국조차 그랬는데.. 흠.
25/07/28 11:51
AI 연구에 필요한 개인정보에 대한 접근과 공유를 어디까지 허용할것인가에 대한 논의부터 선행되어야겠군요. 의료에 국한된 문제는 아닌것 같습니다.
25/07/28 12:17
대부분의 분들이 AI 학습을 위한 환자 데이터 획득에 대해
잘 모르시는 게 있어서 제 경험에 대해서 이야기 드리겠습니다. 저도 한국 모대학에 적을 두고 있고 병리 관련해 의료기기 및 진단을 하기 위해 환자 데이터를 어떻게 습득하느냐에 따른 이야기를 좀 해보겠습니다. 대부분의 분들이 의료기기 혹은 진단기법 개발하면 (약도 마찬가지겠지만) 그냥 데이터를 쭉쭉 환자들에게 가서 뽑지는 못합니다. 설령 초기 데이터 실험에 아는 사람만 써서 데이터를 뽑는다고 해도 이 임상 데이터는 공식적으로 인정을 받지 못합니다. 이유는 모든 임상에 관련된 자료의 획득은 무조건 IRB (기관생명윤리위원회) 라고 불리는 각 대학이나 관련 기관에 소속된 부서에 허가를 받아야 합니다. 이건 단순한 환자에 대한 설문 자료도 마찬가지입니다. 허가를 받기 위해서는 단순히 '치료 혹은 진단에 쓸 기기에요'라고 해봤자 승인 안됩니다. 기기가 사람몸이 부착되는 거면 그 기기의 재질이 실제로 환자에 물리적으로 거부감을 일으키지 않는지에서부터 구성된 재질이 몸에 해롭지 않은지에 대한 데이터 자료도 제공해야 합니다. (MSDN같은) 또한 이건만 하는 것이 아니라 임상 실험을 할 때 장소, 구성, 실험방법 및 실험하는 대상에 대한 거부감을 줄일수 있는 방법도 게시해야 합니다. 당연히 실험에 대한 동의서도 받아야 하는데 이 동의서도 한, 두개가 아닙니다. 거기에 환자당 보험은 필수적으로 들어야 하구요. 그 뿐만 아니라 테스트 중 환자의 이동 및 긴급상황에 따른 대책도 있어야 하고 주어진 연구원이 실험해야 하는데 이 인원도 등록되어야 합니다. 대략 간단한 임상 실험이라도 환자당 200만원은 들구요. 50명하면 대략 환자에 들어가는 임상비용만 1억정도 됩니다. (나머지 재료비나 시약비는 포함되 있지 않습니다.) 여기서 환자가 임상 실험 중간에 포기하면 다른 대체 환자를 찾아서 해야 하구요. 그나마 제가 했던 임상은 환자 피뽑고 이런 건 아니라서 좀 낫긴 했는데. 그럼에도 불구하고 억대의 비용이 지출되었습니다. 이 억대의 비용은 제가 따낸 연구비에서 지출이 되는데요. 환자로 부터 뽑은 데이터를 논문이나 상업화를 시키지 않은채 그냥 준다는건 쉽지 않습니다. 더구나 학교를 통해서 받은 연구비라면 학교에서 자산화를 할 수 있어 제 마음대로 데이터 공유가 힘들어 지고 또한 IRB에 환자 데이터를 어떻게 사용할 시 한정적인 명시가 되어 있어 이걸 다른 병리 치료에 진단 목적으로 사용할 수도 없습니다. 근데 이런 임상 데이터를 모 대학이나 병원에서 대량으로 확보했는데 아무 댓가 없이 준다는 건 현실적으로 불가능한 일이구요. 미국의 경우 이런걸 지원하는 재단이 연구비를 빵빵하게 주고 연구하라고 하니 서로 공유해서 사용하는 데 문제가 없고 중국이야 사회주의 국가니 공산당이 알아서 각 병원마다 오픈해 하면 그만이니까요. 이건 사실 MD들의 문제라기 보단 돈과 그 지원에 대한 부분이고 더럽게 까다로운 환자 데이터 사용에 대한 개인정보법에 관련된 사항이라 실제 불필요한 돈이나 시간이 너무 많이 들어갑니다. 저도 IRB 세번 정도 했는데 (그것도 소싱업체 안맡기고 혼자서 그 많은 서류를 다 써서) 솔직히 미칠지경 일보 직전까지 갔습니다.
25/07/28 17:05
말씀하시는 내용은 한국에서 의료 LLM을 만들기 어려운 이유인 것이지, 우리가 LLM을 사용하지 못하는 이유가 되진 않는다고 생각합니다. 그리고 대부분의 국민들이 학습과정을 모르고 이야기한다 하시는데 국민들은 AI 학습을 카카오가 시키든 구글이 시키든 상관이 없으니까요.
25/07/29 11:47
고생 많으셨습니다.
그런데 말씀하신 경험의 내용은 대부분 우리나라에서 미국의 것들을 많이 참고해서 만든 제도나 관행에 기인하는 것일텐데요. 그것을 한국적인 데이터 활용의 폐쇄성으로 부를 수 있을까요? 오히려 그 허들을 넘기 위해서 개별 연구자가 사용할 수 있는 리소스가 부족한 열악함이 고생하신 원인이라고 할 수 있지 않을까 싶습니다만.
25/07/28 12:36
이게 참.. 저도 관련 종사자였지만
오래전에 나랏님들과 미팅할때 자기들은 돈 쓰기 싫으니 병원에서 돈 다 내고 알아서들 쉐어하는 방향 검토해 주세요~ 라고 할때 학을 땠었던 기억이 있네요. 대형병원들도 데이터 공유에 대해서 열린 마음으로 만났음에도 허허허 였죠. 물론 내부적으로도 판독 AI 기계등 테스트 하자고 했을때 반발도 어마어마 하긴 했지만요. 그때도 굴지의 기업들에 비해 늦었는데 지금은 뭐.. 어마어마하게 늦었다고 봅니다.
25/07/28 13:38
예전에 왓슨에 대한 기대로 영상의학과에 큰 영향을 미칠거란 얘기가 들렸을때가 기억이 납니다.
그때는 결국 현실적으로 ai가 대체하는게 어렵겠구나 생각을 했고, 요즘은 ai 발전이 엄청나구나 생각하게 됩니다. 결국 젊고 ai에 친숙한 분들이야 ai 진료에대한 거부감이 적겠으나, 고령화되신 분들에게 ai 진료는 정말 쉽지 않을거라고 생각합니다. 결국 input이 필요하고, verbal sedation이 필요하구요. 당장 부모님 cpr 상황이고 dnr 받아야는상황인데 거기에대고 ai에서 생존률 보여주는게 동의되는 사람이 어디있겠습니까? 실제 진료현장이 어떤가는 알지도 못하고 관심도 없으면서 함부로 얘기하는 일부 의견들은 안타깝긴 합니다 의사들에겐 결국 ai를 활용하여 진료역량을 높이는게 중요할듯 합니다. 다만 의료인력이 늘어나는건 정반대의 스탠스이긴 하지요.
25/07/28 14:16
좋은 의견 언제나 잘 읽고 있습니다.
말씀하시는 논리는 모두 이해가 잘 갑니다. 다만, 그 결과가 "의사 인건비 하락"이라고 하면... 그걸 의사 분들이 받아들일 수 있을까요. 100% 오류가 없는 날이 오더라도, 우리나라에서 제대로 법제화가 될 수 있을지 대단히 회의적입니다.
25/07/28 15:56
AI가 의사 인건비 하락에 기여한다기 보단, 의사 1명당 1시간동안 n명의 진료를 해왔다면, AI를 활용했을 경우 n명 x 2 의 진료를 가능하게 됩니다.(예를 든 수치이긴 하지만, 활용방법에 따라 1.2배~수배까지 차이날 수 있습니다.)
결과적으로 의료비는 싸지는데, 국민들이 병원에 자주 가는 상황이 벌어질 수도 있습니다.
25/07/29 08:07
여왕의 심복님이 올리시는 글은 정리가 잘 되어 있고 최신 화두를 대부분 빼먹지 않고 언급하셔서 다른 데서 보기 힘든 양질의 정보라고 생각합니다. 딱 한 가지 아쉽다할만한 점은, 임상 현장에 대해서는 살짝 이해가 빗겨가는 부분들이 보인다는 점입니다. 아예 틀린 것은 아닌데, 살짝 엇나간 느낌이라고 할까요? 본문의 영상의학과에 대한 이야기만 해도, 영상의학과에서 치료계획 수립하는 경우는 거의 없습니다. 애초에 영상의학과를 지망하는 이유의 큰 지분이기도 하고요.
저도 LLM 모델 및 영상 AI 판독 활용하면서 진료하고 있습니다만, 한국 현장에서 AI 침투의 가장 큰 장벽을 하나 들라고 한다면, [AI가 가장 먼저 침투할만한 진단/치료계획 수립 과정은 이미 극한의 효율화를 거쳐 업무 로딩 비중이 꽤 낮은 상태] 라는 것입니다. 과거병력 요약은 정말 기똥차서 저도 LLM 유용하게 써먹고 있긴 합니다만, 진단에는 어차피 굳이 사용할 경우가 별로 없는 것이... 주어진 정보를 바탕으로 진단하고 치료 계획 옵션 정하는 건 초 단위, 길어 봐야 몇 분 단위로 끝나거든요. 그걸 환자에게 이해시키고, 옵션을 설명하고 결정하는 과정이 시간을 많이 잡아먹고요... 시술/수술 자체 및 전후로 그 과정 이해시키고 informed consent 및 합병증 관리 및 설명 등등에 대부분의 시간을 쏟아야 됩니다. 사실 이런 부분들이 AI 침투가 어려운 영역이라, 실제 AI 를 도입해서 얼마나 일이 줄어들었냐 하면 현재는 거의 변화가 없는 수준입니다. 위에서 이야기한 수술/시술 (이건 robotics 가 결합되어야 하고...) 환자와 상담 영역 까지 AI 가 침투하는 상황이라면 의료계가 문제가 아니라 이미 인간이 하는 모든 일에 AI 가 침투한 것이라 봐도 되는 상황이겠죠.
25/07/29 12:11
비용 문제는 결국 투트랙 하는 동안에는 투자 비용이고, 완전히 대체 가능할 때가 되어야 인력 vs AI 비용 비교가 가능해질텐데, 아직 먼 미래라고 봅니다. 의료 AI 침투의 아주 단순화된 난이도 낮은 버전이 자율 주행이라고 생각하는데, 자율 주행도 쉽지 않죠.
25/07/29 12:35
(수정됨) 수술 시술빼고 나머지는 llm을 이용해 개발하면 어느정도(100프로는 당연히 아니고 손쉽게 ai대체될거같은 분야들도 막상 적용하려해보면 의외의 난점은 조금씩 있습니다) 커버 가능한영역으로 보이기는 하네요. 나이든 환자들이 AI가 설명해주는것에 거부감이 있을것 같기는 하지만 기술적으로는 어느정도 가능해보입니다.
밑에 미국에서 수련중인분이 미국의료AI 경험에 대해 쓰신걸 보면 댓글 쓰신거보다 한단계 더 올라와있는듯 싶음. 다른 분야는 더욱 빠르게 ai가 치고들어오고 있고 의료쪽도 거기서 예외는 아니라고 봐야할듯 합니다. 더군다나 ai를 선도하는 미국이 의료로 엄청 골치 썩이는 중이라 엄청난 연구와 투자가 이뤄지고 있구요, 의료가 타분야에 비해 AI가 침투하기 어려운부분이 더 많을수 있지만 절실한 필요성때문에 타분야에 비해 더 많은 연구와 투자가 이뤄지는 중이고 가시적인 성과들도 보이는것 같습니다.
25/07/29 13:01
(수정됨) 외부에서 보기에는 다양한 면이 보일 수도 있긴 합니다만, 내부에서 적극적으로 사용하는 사람 중 하나로서 점점 더 쉽지 않구나라는 생각이 더 깊어집니다. 아래 글에서 차팅 도움이나 과거력 정리는 저희도 하고 있습니다만 (기똥차게 잘하기도 하지만, 반면에 경계해야 하는 LLM 의 실수도 있습니다. 반드시 한 번 재확인해야 되요) 아직까지는 정말로 로딩을 드라마틱하게 줄일 정도로 도움이 되지는 않습니다. 또 제 본 댓글에서 설명드린 바와 같이 한국 의료는 이미 축약할 수 있는 부분들은 최대한 축약되어서 현장이 돌아가고 있고, 문제는 AI 의 최대 강점은 그 축약된 부분에 있어서 생각보다 힘을 발휘를 못하고 있어요... 미국은 그 부분이 아직 안 되어 있어서 AI 의 도움을 꽤 받는 것으로 보입니다. 아직 수련 중이시라서 업무에서 그 부분의 비중이 큰 것일 수도 있고요. (차팅이 수련 과정에 중요한 부분이라.)
윗 댓글에 언급 안 한 한 가지가 또 있는데, AI 의 약점 중 하나가 novelty detection 이 약하다는 건데 이것도 극복이 되어야 합니다. 의료에서 의사들 간의 차별점이 사실 이건데, 이게 미묘하게 사회문화적 이해도 동반되어야 하는 부분도 있어서 AI 가 사람 처럼 감정을 공유하거나 뉘앙스, 몸짓을 읽어낼 수 있어야 가능한 부분도 있어요.
25/07/29 13:12
(수정됨) 미국에서 ai도입이 어느정도 성공을 거두면 한국 의료현장의 모습도 점점 바뀌어가지 않을까싶긴합니다. 그리고 ai발전속도가 어미어마하기도 하구요.
한국의료가 그 시스템에 맞게 저비용 고효율로 최적화되어서 굴러가고 있었지만 여러가지 근본적인 이유 때문에 수많은 문제점이 드러나고 있으니깐요. 거기에 이번 의정갈등으로 인해 더 문제가 심해지기도 했고.... 현 한국 의료시스템의 문제에 대해서는 더 잘 아시지 않을까 싶습니다
25/07/29 13:38
(수정됨) 미국에 적용되는 진료 보조 수단이 미국 이외의 국가에 적용이 잘 되는 케이스가 잘 없습니다... 말씀하신대로 비용효율 때문에 미국에서만 가능한 모델들이 많아서요. 한국 의료시스템에서 ai 가 단기간 내에 도움을 줄 수 있는 부분이 많지 않다는 이야기는 위에서 이미 드렸으니 다시 설명할 필요는 없겠죠. Ai 가 언젠가는 의료 전체를 잠식할 날이 오겠지만, 적극적으로 활용하는 사람으로서 현장에서 느끼는 것은 아직 멀게 느껴지고 시간이 지나도 오히려 더 멀어지는 것 같은 느낌이란 말이죠. 그래서 자율주행의 예를 들은 겁니다. 저는 솔직히 면대면에 아주 강한 스타일이 아니라 저는 시술/수술만 하고 상담/동의서 받기를 AI 가 해주면 너무 좋겠다 생각하는데, 이거 사실 일 분배하는게 의료인 안에서도 쉬운 문제가 아니라서....
+ 25/07/29 16:40
환자에게 이해시키고, 옵션을 설명하고 결정하는 과정이 시간을 많이 잡아먹고요... 시술/수술 자체 및 전후로 그 과정 이해시키고 informed consent 및 합병증 관리 및 설명 등등.. 을 로컬에선 간호사나 코디라고 부르는 사람들이 하진 않나요?
미국 같은 곳은 접근성이 워낙 떨어지니 AI에게 원격진료 같은 걸로 진단명과 약받으면 만족할 사람들도 많을 것 같긴 한데, 한국도 솔직히 약만 받을 수 있다면 이용할 사람들 많을 것 같아요. 동네 많은 의원들은 고혈압, 당뇨, 감기약 처방이잖아요.
25/07/29 11:40
(수정됨) 사실 근래 나온 LLM들 보면 RAG가 대두된 이후로 할루시네이션도 줄었고 (없어지진 않을 거 같습니다) 의료 현장에서 이미 유용하게 쓰이는 수준으로 올라왔다 생각합니다.
현재 미국에서 수련중인 입장인데, 임상 현장에서 가장 많이, 또 유용하게 쓰는 두 서비스가 있는데요. 하나는 메이요 클리닉의 OpenEvidence, 다른 하나는 Doximity입니다. 오픈에비던스의 경우 임상적 질문을 하면 이에 따른 근거를 존재하는 논문들과 근거자료를 갖고 와서 잘 들어주는데요. llm 특유의 찐빠가 없진 않지만 (한번 내린 결론을 고집한다던지... 초기조건을 더 던져줘서 답변에 차이가 생겨야 하는데도 세션 내 이전 대화에 쌓인 내용 때문에 관성적으로 답하는 경우도 있음) 잘 모르겠거나 햇갈리는 부분을 찾아보는데 유용합니다. 물론 모든게 정확하지는 않으니 주의가 필요하긴 하구요. 사실 논문 레퍼런스들을 너무 잘 달아줘서 논문 작성 시 문헌검색에 더 많이 쓰는것도 같습니다. 독시미티의 경우 미국 내에선 주로 의사들이 환자에게 전화하거나 할 떄 전화번호를 병원 번호로 변환해주거나, 전자팩스번호를 발급해준다거나 하는 서비스였는데 최근에는 서기관 기능 (scribe)와 HIPPA 준수 지피티 기능 (챗지피티 api를 쓰던데 어차피 api를 쓰면 정보 저장은 안되니 hippa 를 어기는게 아니지 않나 싶기는 합니다.)을 많이 씁니다. 국내에선 수련받은 적이 없어 잘은 모르지만 미국에서 업무의 정말 많은 부분을 차지하는게 차팅인데... 독시미티를 유용하게 사용하면서 더 효율적으로 업무강도를 줄여가명 일할 수 있게 되었습니다. 입원시킬때도 퇴원시킬때도 장문으로 3~4문단 치는게 아무리 타자가 빨라도 어려웠는데 확실히 이런 부분에선 도움이 많이 되더라구요. 아, AMIA라는 미국 의료정보협회 학회에 가면 전자의무기록 회사들도 많이 옵니다. 에픽이나 써너같은 회사들은 llm을 적극적으로 활용해서 환자 차트를 깠을 때 기본적인 병력 요약 문단이 뜨는건 기본이고, 과거력을 클릭 시 그 과거력이 언제 진단됬고 무슨 검사 기준이었고 이후 추적관찰은 어떻게 해줬냐는 부분들을 llm을 이용해 연결시켜 뜨게 해주더라구요. 이미 존재하는 데이터를 정리할 뿐이지만 이걸 사람이 일일히 차트리뷰해서 정리하는건 시간적으로 말이 안되고, 데이터도 파편화되어 있으니만큼 까다로운 작업인데, LLM은 이런 부분에 확실히 강하더라구요. 이런 기능들이 상용화되면 환자파악 하는 시간도 빨라지고 여러모로 일을 효율적으로 할 수 있겠다 싶습니다. 물론 이런 EMR은 죄다 많이 비싸겠지만요... 이렇게 의료 제공자 쪽에서 활발하게 쓰이는것과 실제 의료가 llm을 통해 전달되는 건 또 다른 문제일 거 같긴 하지만요. 사람이 직접 전달해야 하는 부분도 설명해야 하는 부분도 많아서... 하지만 의료 접근성이 떨어지는 미국 같은 나라일수록 진료나 치료를 결정하는 과정까지 LLM에 맡기려는 시도도 언젠간 진행될 거 같긴 합니다. 여러모로 흥미로워요.
25/07/29 15:39
독시미티 기업에 관심이 생겼는데 구독하게 되면 구독료를 어느 정도까지 낼 수 있다고 생각하시나요?
경쟁기업이나 해자같은 것에 대해서는 어떻게 생각하시는지 궁금합니다.
|