AIM LAB(지도교수 : 홍성은 교수) , ICML 2026 논문 게재 승인

인공지능 및 미디어 연구실(AI & Media Lab, AIM Lab, 지도교수: 홍성은 교수)의 논문이 머신러닝 분야 top-tier 국제학술대회인 ICML 2026 (International Conference on Machine Learning)에 게재 승인되었습니다.

제목: SyMerge: From Non-Interference to Synergistic Merging via Single-Layer Adaptation
저자: 정애천, 이승환, 한동윤, 홍성은
학술대회: International Conference on Machine Learning (ICML 2026), July 2026
키워드: Model Merging, Multi-task Learning, Test Time Adaptation

Model merging은 각 태스크별로 독립적으로 학습된 모델을 파라미터 수준에서 결합함으로써, 대규모 multi-task learning에 필요한 높은 학습 비용을 줄일 수 있는 효율적인 접근법입니다. 기존 방법들은 model merging 적용 시 태스크 간 성능 저하를 막는 non-interference에 초점을 맞추어 왔지만, 본 논문은 태스크 간 간섭을 줄이는 것에서 나아가, 서로 다른 태스크 간의 시너지 효과를 유도하는 방향으로 model merging을 수행합니다.

핵심 기여
■ Synergistic model merging 관점 제시
태스크 간 간섭을 줄이는 것을 넘어, 서로 다른 태스크가 상호 보완적으로 성능을 향상시킬 수 있는 model merging 방향을 제안

■ Single-layer adaptation 기반 경량화 방법 제안
전체 모델을 재학습하지 않고, 단 하나의 task-specific layer와 merging coefficient만을 적응시켜 효율적으로 merged model의 성능을 향상시킴

■ 다양한 태스크에서의 효과 검증
Vision, dense prediction, NLP benchmark에서 제안 방법의 효과를 검증하고, 적응된 layer가 다른 merging 방법에도 활용될 수 있음을 확인

그림 (a) 여러 task-specific 모델을 하나의 merged encoder로 결합한 뒤, classifier를 재학습하여 태스크 간 representation 정렬을 강화합니다. 이후 cross-task encoder 평가를 통해 서로 다른 태스크 간 호환성을 측정합니다. 그림 (b) 단 하나의 layer와 merging coefficient를 함께 적응시키는 방식이 가장 높은 성능을 보여, SyMerge의 경량성과 효과성을 확인할 수 있습니다.