프로페서 H의 메디톡

최초작성일: 2025.03.10상태: 수정중🔍 의료 대형 언어 모델(LLM)의 데이터 오염 공격 취약성 연구 요약  📌 Nat Med. 2025 Feb;31(2):618-626. doi: 10.1038/s41591-024-03445-1.Medical large language models are vulnerable to data-poisoning attacks이번 저널 리뷰에서는 의료분야 LLM 사용에 있어 데이터 포이즈닝 (data-poisoning)에 의한 취약성 연구에 관한 것을 정리해보았습니다.  1️⃣ 연구 배경✅ LLM의 의료 분야 적용 증가대형 언어 모델(LLMs)은 의료 데이터 분석, 임상 의사 결정 지원, 진료 노트 요약 등 다양한 의료 분야에서 활용되고 있음.그러나 웹에서 수집한 대..

1차 원고 작성: 2024-10-17 오늘은 "Evaluation and mitigation of the limitations of large language models in clinical decision-making"이라는 논문에 대해 내용을 정리하고자 합니다. 이 연구는 대규모 언어 모델(LLM)을 임상 의사 결정에 활용할 때의 한계점을 평가하고 개선 방안을 모색한 중요한 논문입니다. 출처: Nature Medicine (2024) 30: 2613–2622. https://doi.org/10.1038/s41591-024-02780-7 대규모 언어 모델(LLM)은 의료 면허 시험에서 우수한 성과를 보이며 임상 의사 결정 분야에서 큰 잠재력을 보여주고 있습니다. 그러나 실제 임상 환경에서 필요한 많은..