장혜령 교수 연구팀 (박준서)

Artificial Intelligence 분야 top conference ‘ICLR 2025’ 논문 채택

▲ (왼쪽부터) 컴퓨터AI학과 박준서 석사과정, 장혜령 교수

컴퓨터AI학과 장혜령 교수 연구팀 (박준서 석사과정) 이 artificial intelligence 분야 top conference인 ICLR 2025에 제출한 논문이 최종 채택되었다.

NeurIPS, ICML 등과 함께 세계적인 머신러닝 학회로 손꼽히는 ICLR (International Conference on Learning Representations) 학회는 딥러닝 및 표현 학습 (Representation Learning) 분야에서 최고 권위의 학회이다. ICLR 2025는 오는 4월 24일부터 4월 28일까지 싱가포르 EXPO에서 개최될 예정이다.

논문 제목은 ‘I2AM: Interpreting Image-to-Image Latent Diffusion Models via Bi-Attribution Maps’으로, 연구팀은 image-to-image 생성 과정에서 잠재 공간의 해석 가능성을 높이는 새로운 Bi-Attribution Map 기반 분석 기법을 최초로 제안하였다.

그림1. 논문에서 제안한 방법론과 Bi-Attributuion Map 결과

기존의 주의 집중 (Attention) 기반 diffusion 이미지 생성 모델의 해석 방법이 단방향적 분석에 그쳤던 것과 달리, 본 연구에서는 cross-attention map을 활용하여 입력 이미지와 생성된 이미지 간의 상호 작용을 보다 정밀하게 파악할 수 있는 Bi-Attribution Map을 도입하였다. 특히, 시간, 레이어, 헤드 수준에서의 attribution map을 분석하여 생성 과정에서 모델이 어떤 정보를 중점적으로 활용하는지를 다각도로 시각화하였다. 실험 결과, 제안된 방법은 생성 모델의 해석 가능성을 크게 향상시키며, 생성 과정에서 중요한 정보의 흐름을 효과적으로 포착하는 것으로 나타났다.

이번 연구에 참여한 석사과정 박준서 연구원은 “장혜령 교수님의 지도 아래 연구를 진행하며 많은 것을 배울 수 있었다. ICLR과 같은 권위 있는 학회에서 연구 성과를 발표할 기회를 얻게 되어 기쁘며, 앞으로도 딥러닝 모델의 원리를 탐구하고 실질적인 기여를 할 수 있는 연구를 이어가고 싶다.” 라고 소감을 전했다.