순서가 있습니다. 포털 넷(연구방·지식센터·커뮤니티·아카데미)을 먼저 담고,
SSRA 는 맨 나중에 담아 주세요. SSRA 를 먼저 담으면 나머지가 그 안에 포함된 것으로
잡혀 따로 담기지 않습니다. 아이콘도 담을 차례대로 놓았습니다 — 왼쪽부터 차례로 누르시면 됩니다.
Medical large language models are vulnerable to data-poisoning attacks
Daniel Alexander Alber, Zihao Yang, Anton Alyakin 외 · Nature Medicine · 2025년 · 조회 20
왜 이 논문인가 — 선정 기준
HOT PAPER · 최근 가장 주목받는 논문 — 피인용·FWCI·동년 인용 백분위
2025-01 발표 · 피인용 208회 · FWCI 81.7 · 동년 인용 상위 1%
HOT PAPER 슬롯은 최신 논문 중 주목도가 높은 것을 선정했으며, 2025년 발표 이후 208회의 인용 및 FWCI 81.7이라는 뛰어난 인용 영향력이 이를 뒷받침합니다.
논문 요약
헬스케어 분야에서 대형 언어 모델(LLM)의 활용이 늘어나면서, 모델이 인터넷에서 수집한 방대한 데이터에 포함된 의료 오류나 악의적 정보에 노출될 위험이 커졌다. 연구팀은 의료용 데이터셋인 The Pile에 0.001% 수준의 잘못된 의료 토큰을 삽입하는 데이터 오염 시뮬레이션을 수행했으며, 이로 인해 모델이 유해한 의료 정보를 생성하게 되면서도 공개 벤치마크에서는 기존 모델과 유사한 성능을 유지함을 발견했다. 또한, 생의학 지식 그래프를 이용한 출력 검증 방안을 제시하여 피해를 최소화할 수 있는 방법을 제안한다.
후속 연구설계에 활용하기
연구에서는 의료 LLM에 대한 데이터 오염 방지 효과를 변수로 설정하고, 지식 그래프 기반 필터링 절차를 설계·평가하여 다양한 모델 규모와 데이터셋에 적용 가능한 견고성 평가 프레임워크를 구축할 수 있다.
핵심어
의료 LLM데이터 오염의료 오류지식 그래프
실존 확인
이 논문은 OpenAlex에서 후보로 수집한 뒤, Crossref에 등록된 DOI와 제목 일치를 확인해 노출합니다.
SSRA가 문헌연구에서 인용 논문의 실재 여부를 검증하는 원칙과 같습니다.