신뢰가능한인공지능연구단(Pioneer Research Group for Socially Responsible AI, 연구책임자 한진영 교수)이 지난해 개최한 학생 참여형 연구 프로그램 ‘Bias-A-Thon’의 성과를 발전시킨 연구가 자연어처리 및 인공지능 분야의 세계 최고 수준 국제학술대회인 「2026 Conference on Empirical Methods in Natural Language Processing(EMNLP 2026)」 Findings에 채택됐다.

채택 논문의 제목은 「SCENE: A Scenario Completion Benchmark for Measuring Social Bias in Large Language Models」로, 대규모 언어모델(LLM)이 다양한 사회적 상황과 맥락에서 나타내는 사회적 편향(Social Bias)을 체계적으로 측정하고 평가하기 위한 새로운 벤치마크를 제안했다.

EMNLP(Empirical Methods in Natural Language Processing)는 자연어처리(NLP)와 인공지능(AI) 분야에서 세계적으로 권위를 인정받는 최우수권 국제학술대회 중 하나다. 이번 논문 채택은 신뢰가능한인공지능연구단이 추진해 온 책임 있는 인공지능 연구와 국제 공동연구의 성과가 세계적 연구 커뮤니티에서 학술적으로 인정받았다는 점에서 의미가 크다.

이번 연구의 출발점은 신뢰가능한인공지능연구단이 지난해 개최한 ‘Bias-A-Thon’이다. Bias-A-Thon은 기존 해커톤의 형식을 인공지능의 사회적 편향 문제에 접목한 학생 참여형 연구 프로그램으로, 참가 학생들이 대규모 언어모델에서 나타날 수 있는 다양한 사회적 편향을 직접 탐색하고 이를 실제 연구에 활용할 수 있는 데이터로 구축하도록 기획됐다.

본교와 The Pennsylvania State University(Penn State) 학생들은 Bias-A-Thon을 통해 다양한 사회적 상황과 맥락에서 발생할 수 있는 편향 사례를 발굴했다. 이후 연구진은 학생들이 구축한 데이터를 체계화하고 분석해 대규모 언어모델의 사회적 편향을 측정할 수 있는 벤치마크 ‘SCENE’으로 발전시켰으며, 이러한 후속 연구가 이번 EMNLP 2026 논문 채택으로 이어졌다.

SCENE은 특정 단어나 문장에 포함된 편향을 단순히 탐지하는 기존 방식에서 한 걸음 더 나아가, 대규모 언어모델이 다양한 사회적 상황과 맥락을 직접 완성하는 과정에서 어떠한 편향이 나타나는지를 평가하도록 설계됐다. 이를 통해 실제 생성형 AI 사용 환경에서 드러날 수 있는 보다 복합적이고 맥락적인 사회적 편향을 체계적으로 분석하는 것을 목표로 한다.

이번 연구에는 신뢰가능한인공지능연구단 연구책임자인 한진영 교수를 비롯해 최윤석 교수와 홍성은 교수, The Pennsylvania State University 교수이자 우리대학 석학교수인 S. Shyam Sundar 교수가 참여했다. 또한 본교 강미경, 정애천, 김민석 학생과 The Pennsylvania State University의 Eunchae Jang 학생이 연구에 함께 참여해 한·미 공동연구 성과를 만들어냈다.

특히 이번 성과는 연구단이 기획한 학생 참여형 연구 프로그램이 일회성 행사에 머무르지 않고, 학생들의 데이터 구축과 한·미 연구진의 후속 공동연구를 거쳐 세계 최고 수준 국제학술대회의 논문으로 발전했다는 점에서 의미가 크다. 과학기술정보통신부와 정보통신기획평가원(IITP)의 해외석학유치지원사업을 기반으로 조성한 국내외 교수진 및 학생 간 연구·교류 환경이 구체적인 국제 학술 성과로 이어진 대표적인 사례라는 점에서도 주목된다.

한진영 신뢰가능한인공지능연구단 연구책임자는 “Bias-A-Thon은 학생들이 인공지능의 사회적 편향이라는 중요한 문제를 직접 탐색하고, 실제 연구 데이터 구축 과정에 참여할 수 있도록 기획한 프로그램”이라며 “성균관대학교와 Penn State 학생 및 연구진이 함께 만들어낸 결과가 후속 공동연구를 거쳐 자연어처리 및 인공지능 분야의 세계 최고 수준 국제학술대회인 EMNLP에 논문으로 채택됐다는 점에서 더욱 뜻깊다”고 밝혔다.

이어 “학생들이 국제 연구진과 함께 연구 문제를 발굴하고 데이터를 구축하는 데서 그치지 않고, 그 결과를 세계적인 학술 무대에서 연구 성과로 발전시키는 경험까지 할 수 있었다는 점 역시 중요한 의미가 있다”며 “앞으로도 해외석학유치지원사업을 기반으로 해외 연구진과의 실질적인 공동연구와 학생 교류를 확대하고, 신뢰할 수 있고 사회적으로 책임 있는 인공지능 분야에서 국제적으로 인정받는 연구 성과를 지속적으로 만들어 나가겠다”고 말했다.

신뢰가능한인공지능연구단은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받는 해외석학유치지원사업의 일환으로 운영되고 있으며, 해외 우수 연구자와 국내 연구진 간 지속적인 공동연구와 인재 교류를 통해 사회적으로 책임 있고 신뢰할 수 있는 인공지능 기술 개발을 추진하고 있다.