오늘의 논문
HOT PAPER IT Crossref 실존 확인 2026-11-04 회차 지난 회차

의료 대형 언어 모델의 데이터 오염 공격 취약성

Medical large language models are vulnerable to data-poisoning attacks
Daniel Alexander Alber, Zihao Yang, Anton Alyakin 외 · Nature Medicine · 2025년 · 조회 20
왜 이 논문인가 — 선정 기준
HOT PAPER · 최근 가장 주목받는 논문 — 피인용·FWCI·동년 인용 백분위
2025-01 발표 · 피인용 208회 · FWCI 81.7 · 동년 인용 상위 1%
HOT PAPER 슬롯은 최신 논문 중 주목도가 높은 것을 선정했으며, 2025년 발표 이후 208회의 인용 및 FWCI 81.7이라는 뛰어난 인용 영향력이 이를 뒷받침합니다.
논문 요약
헬스케어 분야에서 대형 언어 모델(LLM)의 활용이 늘어나면서, 모델이 인터넷에서 수집한 방대한 데이터에 포함된 의료 오류나 악의적 정보에 노출될 위험이 커졌다. 연구팀은 의료용 데이터셋인 The Pile에 0.001% 수준의 잘못된 의료 토큰을 삽입하는 데이터 오염 시뮬레이션을 수행했으며, 이로 인해 모델이 유해한 의료 정보를 생성하게 되면서도 공개 벤치마크에서는 기존 모델과 유사한 성능을 유지함을 발견했다. 또한, 생의학 지식 그래프를 이용한 출력 검증 방안을 제시하여 피해를 최소화할 수 있는 방법을 제안한다.
후속 연구설계에 활용하기
연구에서는 의료 LLM에 대한 데이터 오염 방지 효과를 변수로 설정하고, 지식 그래프 기반 필터링 절차를 설계·평가하여 다양한 모델 규모와 데이터셋에 적용 가능한 견고성 평가 프레임워크를 구축할 수 있다.
핵심어
의료 LLM데이터 오염의료 오류지식 그래프
실존 확인
이 논문은 OpenAlex에서 후보로 수집한 뒤, Crossref에 등록된 DOI와 제목 일치를 확인해 노출합니다. SSRA가 문헌연구에서 인용 논문의 실재 여부를 검증하는 원칙과 같습니다.
2026-11-04 확인 · 2026-11-04 선정
같은 회차의 다른 논문
Editor's Pick 17
메타버스에 대한 모든 것: 기술 특이점·가상 생태계·연구 의제 종합 조사
HOT PAPER 경영·경제 14
다국적 기업, 역량, 디지털화: 거버넌스와 성장, 세계 무질서 속에서
NEW PAPER 경영·경제 14
공급 차질과 원유 수익 변동성 예측: GARCH-MIDAS 접근
RESEARCH PAPER 경영·경제 13
범위·규모·집중도: 21세기 기업의 새로운 특성
HOT PAPER 사회과학 15
LLM을 활용한 법률 분야 연구: 최신 법률 NLP 접근법 문헌 검토
NEW PAPER 사회과학 14
음성 데이터로 피로 차원을 예측: 교대근무자 장기 연구
RESEARCH PAPER 사회과학 21
정성 연구에서 포화 개념의 정의와 실천 방안
HOT PAPER 교육 13
질적 연구에서 표본 크기: 데이터 포화에서 이론 포화로의 전환
NEW PAPER 교육 16
학교 리더십의 관계 자원: 사회자본을 지원으로 전환하기
RESEARCH PAPER 교육 22
질적 연구의 포화: 개념화와 운영화 탐구
HOT PAPER 간호·보건 14
예방을 위한 환자 진료 포기: 일반 진료 역할의 왜곡
NEW PAPER 간호·보건 13
미숙아 괴사성 장염 위험인자 분석 및 혈청 SMOX·ACR의 임상 의의
RESEARCH PAPER 간호·보건 15
지속가능성에 대한 포괄적 정의 개발
NEW PAPER IT 14
Aloe-emodin이 Staphylococcus aureus FtsA 억제에 미치는 역할: 인실리코 연구
RESEARCH PAPER IT 15
서브워드 정보를 활용한 단어 벡터 강화
HOT PAPER 자연과학 15
미생물 알파 다양성 지표 적용을 위한 핵심 특징 및 가이드라인
NEW PAPER 자연과학 28
시간적 변동이 온난화·생물제 적용보다 토양 저항체군 변이를 더 크게 주도
RESEARCH PAPER 자연과학 16
SWISS-MODEL: 단백질 구조 및 복합체 동형 모델링
HOT PAPER 예체능 12
사랑하는 교수법, 감정 조절, 자기 효능감이 EFL 교사의 업무 몰입에 미치는 예측력: 다국가 연구
NEW PAPER 예체능 15
페루·아르헨티나 화산 인카 동결 미라의 독성학 연구
RESEARCH PAPER 예체능 14
제2언어 습득에서 긍정심리학을 위한 연구 의제 설정