뉴스룸
첨단 의료 AI 보안·안전성 검증…'2026 첨단AI 의료제품 레드팀 챌린지 및 기술 워크숍' 마무리
㈜STA테스팅컨설팅 자체 개발 '레드팀 챌린지 플랫폼' 첫 가동
국내외 대표 LLM 12종·시드질문 807개 규모로 실전 검증
지난 9월 3~4일 '2026 첨단AI 디지털의료제품 레드팀 챌린지 및 기술 워크숍'이 노보텔 앰배서더 서울 동대문 그랜드볼룸에서 열렸다. 이번 행사는 의료 AI의 안전성과 신뢰성을 실제 환경에서 점검하기 위해 마련됐다.
국가인공지능전략위원회 이원태 보안특별위원장이 대회장을 맡은 이번 행사는 한국전자통신연구원(ETRI), 분당서울대학교병원, ㈜STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관했다. 한국인터넷진흥원(KISA), 한국보건산업진흥원, Upstage, 대한의료인공지능학회 등이 후원했다.
첫째 날 진행된 챌린지에는 삼성SDS, 카카오뱅크, SK쉴더스, 국립중앙의료원, KISA를 비롯해 대학·고등학교 재학생까지 산업계·공공·의료·학계의 참가자들이 참여해 6개 세션에 걸쳐 공격을 수행했다.
대상 시스템은 UpStage Solar, OpenAI GPT, Google Gemini, Anthropic Claude, 의료 특화 MedGemma 등 국내외 대표 LLM 12종이다. 운영 인프라로는 ㈜STA테스팅컨설팅이 정부 출연 R&D 과제로 개발한 '생성형 AI 디지털의료제품 레드팀 챌린지 플랫폼'이 처음 가동됐다.
플랫폼에는 자체 분류체계 MedRTC-TAX-v2.0의 8개 대분류와 MODEL·MULTIMODAL·AGENTIC·MCP 등 6개 시험 모드에 걸친 시드질문 807개가 탑재됐다. 사람 심사위원 3명과 LLM-as-a-Judge 2명 가운데 3명 이상이 승인하면 성공으로 판정하는 방식으로 운영됐다.
총상금 2,000만 원 규모의 시상에서는 삼성SDS 장은태 팀이 대상을 수상했다. 최우수상은 국립중앙의료원 이광성 팀, 카카오뱅크 손병근 팀, SK쉴더스 김병현 참가자에게 돌아갔으며, 한국인터넷진흥원장 특별상 2개 팀과 우수상 5개 팀을 포함해 총 11개 팀이 수상했다.
둘째 날 기술 워크숍에서는 박태웅 녹서포럼 의장이자 국가인공지능전략위원회 공공AX 분과장의 기조강연을 시작으로 삼성서울병원 정규환 센터장의 Physical AI 안전 테스팅, 싱가포르 HSA(Health Sciences Authority)의 AI 의료기기 규제 프레임워크 발표가 이어졌다. △규제 및 가이드 △첨단 의료 AI 안전 및 보안 △첨단 의료 AI 제품 평가 등 3개 세션에는 서울대, 동국대, KISA, 서울아산병원, AWS, ETRI 등 국내외 전문가들이 참여해 관련 동향을 공유했다.
㈜STA테스팅컨설팅 관계자는 “자체 개발 레드팀 챌린지 플랫폼이 실전에서 안정적으로 작동함을 입증한 자리로, 향후 의료 AI 제품뿐 아니라 다양한 응용 분야에서 AI 레드팀 테스팅 상시화를 비롯해 첨단 AI 시대 사이버 복원력 확보에 기반이 되는 신뢰성·안전성 시험평가 체계로 확장해 나갈 것”이라고 밝혔다.