상대의 의도까지 읽어내는 새로운 AI 학습법
대형언어모델(LLM) 에이전트가 협력하거나 경쟁하는 환경에서, 상대의 발언을 무조건 수용하지 않고 행동 양상까지 종합적으로 분석해 숨겨진 관계를 파악하도록 유도하는 신기술이 개발되었다. 울산과학기술원(UNIST) 인공지능대학원 한승열 교수팀은 상대방의 역할과 의도를 직접 추론한 뒤, 그 판단에 근거해 말과 행동을 결정하도록 만드는 학습 기술을 선보였다. 이 기술을 적용한 모델은 마피아 게임에서 기존 방식보다 평균 승률을 24%포인트나 끌어올리는 성과를 거두었다.
에이전트 간 소통이 원활하지 않거나 정보가 불충분한 상황, 혹은 누군가 의도적으로 기만하는 환경에서도 자신의 목표를 달성할 수 있도록 돕는 것이 핵심이다. 연구팀은 모델이 축적된 대화와 행동 데이터를 토대로 상대의 정체와 동맹 관계를 추리하도록 훈련했다. 이러한 추론 과정을 '관계적 믿음'이라 정의하며, 다양한 에이전트 조합을 무작위로 배치해 다채로운 상황을 경험하게 했다.
우연한 성공을 걸러내는 정교한 보상 체계
학습 과정에서 모델이 상대의 정체를 정확히 식별하고 유리한 선택을 했을 때만 보상을 부여함으로써, 유사한 상황에서의 판단력을 높였다. 기존의 학습 방식은 잘못된 추론을 했더라도 우연히 이득을 얻으면 해당 행동을 반복하게 만드는 한계가 있었으나, 이번에 개발된 '마르보(MARBO)' 기술은 이러한 오류를 효과적으로 차단한다. 또한, 발언 시에는 단순히 상황에 맞는 말을 하는 것을 넘어, 자신의 발언이 상대방의 판단을 자신에게 유리하게 변화시켰는지까지 고려하도록 설계되었다.
게임을 통해 검증된 압도적인 성능
연구팀은 사회적 추론 능력을 검증하기 위해 마피아 게임의 변형인 '웨어울프'와 '어몽어스'를 활용했다. 참가자마다 정보가 다르고 거짓말이 가능한 환경에서 진행된 실험 결과, 70억 개의 매개변수를 가진 모델이 마르보로 학습했을 때 웨어울프 게임 승률은 65.6%를 기록했다. 이는 기존 학습법의 41.6%보다 24%포인트 높은 수치이며, 매개변수가 두 배나 많은 모델의 기존 승률(64.0%)보다도 우세한 결과다. 어몽어스 게임에서도 20억 개 규모 모델은 승률이 36.4%에서 49.0%로, 40억 개 규모 모델은 40.0%에서 59.0%로 각각 상승했다.
다중 에이전트 시스템의 미래를 열다
한승열 교수는 이번 기술이 불완전하거나 기만적인 정보가 난무하는 환경에서도 에이전트가 올바른 판단을 내리게 돕는다고 설명했다. 그는 이 기술이 향후 자율 드론, 다중 로봇 시스템, 인간과 AI의 협업 등 여러 에이전트가 서로의 의도를 이해해야 하는 분야의 신뢰성과 적응성을 높이는 기반이 될 것이라고 전망했다. 본 연구 결과는 자연어 처리 분야의 최고 권위 국제학술대회인 'EMNLP'에 채택되었으며, 해당 학회는 지난 10월 24일부터 29일까지 헝가리 부다페스트에서 개최되었다.