▲ 이우진 교수 연구팀. 이름 아래는 각자 참여한 논문 (윗줄 왼쪽부터)

동국대학교(총장 윤재웅) 컴퓨터AI학과 이우진 교수 연구팀의 논문 5편이 자연어처리 분야 세계 최고 권위의 인공지능 학회인 ‘EMNLP(Conference on Empirical Methods in Natural Language Processing) 2026’에 채택됐다고 밝혔다.

이번 연구에는 동국대학교 컴퓨터AI학과 이우진 교수 연구실의 김미소 연구원, 이거루 연구원, 정승원 연구원, 이윤석 연구원, 김윤지 연구원, 김현진 연구원, 김민석 연구원, 정승현 연구원, 이현세 연구원, 정지우 연구원, 이하늘 연구원이 참여했다.

최근 대규모언어모델(LLM)은 문장을 생성하는 단계를 넘어 직접 도구를 호출하고 로봇을 움직이며 사람 대신 의사결정을 수행하는 ‘AI 에이전트’로 확장되고 있다. 연구팀은 이러한 변화 속에서 모델이 무엇을 기억하고 있는지, 외부 입력에 의해 어떻게 조작될 수 있는지, 행동 과정에서 안전 제약을 지키는지를 검증하는 신뢰성 문제를 집중적으로 다뤘다. 이번에 채택된 5편은 다음과 같다.

▲ ‘Confess What You Know’ 대표 그림. 모델이 실제로 외운 정보와 사용자가 지워 달라고 요청한 목록이 어긋나면서 개인정보가 남거나, 배우지도 않은 지식을 지우려다 성능이 떨어지는 두 가지 실패를 보여준다.

첫 번째 논문 ‘Confess What You Know’(Main Conference)는 AI가 특정 정보만 지우도록 하는 언러닝 기술을 다뤘다. 기존 연구는 지울 대상 목록이 모델이 실제로 외운 내용과 일치한다고 가정했지만, 원본 학습 데이터를 볼 수 없는 실제 개인정보 삭제 상황에서는 이 가정이 성립하지 않는다. 연구팀은 모델이 스스로 기억하는 내용을 진술하도록 유도해 삭제 목록을 구성하는 ‘CONFS’를 제안했으며, 학습 데이터를 전혀 사용하지 않고도 원본 데이터를 활용한 방식에 필적하는 삭제 성능을 달성했다.

▲ ‘Will the User Ever Know?’ 대표 그림. 같은 공격이 성공해도 최종 응답에 흔적이 남아 사용자가 알아채는 경우(왼쪽)와, 요청한 답변만 돌려주어 끝내 알아채지 못하는 경우(오른쪽)로 갈린다.

두 번째 논문 ‘Will the User Ever Know?’(Main Conference)는 메일이나 웹 문서에 숨겨진 명령으로 AI 에이전트를 조종하는 간접 프롬프트 인젝션 공격을 다뤘다. 기존의 공격 성공률 지표는 공격이 실행됐는지만 셀 뿐, 그 사실이 사용자 눈에 보이는지는 확인하지 않았다. 연구팀은 사용자가 알아채는 공격과 알아채지 못하는 공격을 구분하는 새로운 평가지표를 제시하고, 은폐된 공격을 유도하는 기법 ‘ICoA’를 설계해 주요 모델 네 종 모두에서 가장 높은 은폐 성공률을 기록했다.

▲ ‘FaVOR’ 대표 그림. 전통적 금융 연구(왼쪽)와 수익률만 최적화하는 기존 AI 방식(오른쪽) 사이에서, 가설을 조건으로 나눠 실증 검증한 뒤 factor를 만드는 FaVOR(가운데)의 절차를 비교했다.

세 번째 논문 ‘FaVOR’(Findings)는 인공지능을 활용한 금융 factor 자동 발굴 기술을 다뤘다. 최근 AI 다중 에이전트가 factor 발굴을 자동화했지만, 수익률만 최적화하는 탓에 만들어진 factor가 애초의 경제적 가설을 담고 있는지는 검증하지 않는다는 한계가 있었다. 연구팀은 가설을 관측 가능한 조건으로 분해해 실증 증거로 검증한 뒤 결합하는 ‘FaVOR’를 제안했으며, 2025년 CSI 500과 S&P 500 표본 외 백테스트에서 네 개 평가지표 모두 1위를 기록했다.

▲ ‘SafeBranch’ 대표 그림. 에이전트의 위험한 실행을 되감아 문제가 된 단계에서 안전한 행동과 짝을 지어 학습시키는 과정을 나타냈다.

네 번째 논문 ‘SafeBranch’(Findings)는 로봇처럼 실제로 행동하는 AI 에이전트의 안전성을 다뤘다. 이러한 에이전트는 지시받은 일을 해내면서도 그 과정에서 안전 규칙을 어기는 경우가 있는데, 위험이 발생하는 지점이 전체 행동 중 일부 단계에 몰려 있어 학습이 까다로웠다. 연구팀은 에이전트의 위험한 행동을 시뮬레이터에서 되감아 문제가 된 단계로 돌아간 뒤 안전한 대안 행동을 짝지어 학습시키는 방법을 제안했으며, 별도의 감시 장치 없이 에이전트가 스스로 안전하게 행동하도록 만들었다.

▲ ‘HiP-LR’ 대표 그림. 로봇 한 대가 실패하면 전체가 대기하는 기존 방식(위)과 달리, HiP-LR(아래)은 실패한 그룹만 다시 계획하고 나머지 로봇은 작업을 이어간다.

다섯 번째 논문 ‘HiP-LR’(Findings)은 송수환 교수 연구팀과의 공동 연구로, 여러 대의 로봇이 협업하는 장기 과업의 계획 문제를 다뤘다. 인공지능으로 다수의 로봇을 계획할 경우 정보량이 늘어나면서 환각이 발생하고, 실행 중 사소한 실패 하나가 전체 계획을 무효로 만드는 문제가 있었다. 연구팀은 지시를 의존성이 분리된 하위 작업 그룹으로 나눠 각 에이전트가 다루는 정보량을 줄이고, 실패가 발생하면 해당 그룹만 다시 계획하도록 하는 ‘HiP-LR’을 제안해 표준 벤치마크에서 과업 성공률을 38% 향상시켰다.

연구팀은 “AI가 실제 행동을 대신하는 시대에는 성능뿐 아니라 모델이 무엇을 기억하고 어떻게 조작될 수 있는지를 함께 검증해야 한다”며, “앞으로도 신뢰할 수 있는 인공지능 기술 연구에 집중할 계획”이라고 밝혔다.

한편, 이번 연구 성과는 오는 10월 24일부터 29일까지 헝가리 부다페스트에서 개최되는 EMNLP 2026 현장에서 발표될 예정이다.