Adaptation of Agentic AI

Meta info.

• Authors: Pengcheng Jiang, Jiacheng Lin, Zhiyi Shi, Zifeng Wang, Luxi He, Yichen Wu, Ming Zhong, Peiyang Song, Qizheng Zhang, Heng Wang, Xueqiang Xu, Hanwen Xu, Pengrui Han, Dylan Zhang, Jiashuo Sun, Chaoqi Yang, Kun Qian, Tian Wang, Changran Hu, Manling Li, Quanzheng Li, Hao Peng, Sheng Wang, Jingbo Shang, Chao Zhang, Jiaxuan You, Liyuan Liu, Pan Lu, Yu Zhang, Heng Ji, Yejin Choi, Dawn Song, Jimeng Sun, Jiawei Han
• Paper: https://arxiv.org/pdf/2512.16301
• Affiliation: Caltech, Georgia Tech, Harvard Univ., Northwestern Univ., Princeton, Stanford Univ., TAMU, UC Berkeley, UIUC, UW, Unity, University of California San Diego
• Published: December 18, 2025

TL; DR

agentic AI 연구에서 adaptation이라는 개념이 혼용되어왔고, 체계적인 시스템 수준 설계 및 비교를 가능하게 하기 위해 adaptation 대상(agent vs tool)과 adaptation을 유도하는 신호를 구분하는 분류 체계 제안

Background

Agentic AI에서 adaptation이라는 표현의 남발

• LLM fine-tuning, prompt update, memory 수정, retriever 변경, search 전략 개선, sub-agent 학습, …
• adaptation의 대상도 다르고 signal도 다르고, system 리스크, 비용 모두 다름 → 너무 다른 것들을 같은 표현 아래서 비교하고 있음

Problem States

Adaptation은 (1) 무엇(agent vs. tool)을 바꾸는가 (2) 어떤 신호(execution vs. output)로 바꾸는가에 의해 구분해야 한다.

Suggestions

2by2 quadrant; 어떤 연구가 어떤 adaption을 타깃하는가?

• 적응대상 : Agent / Tool
• 신호:
  • A1 (agent에 대해) Tool execution : 현실 피드백 기반 agent 학습
  • A2 (agent에 대해) Agent output : 자기 출력 기반 agent 학습
  • T1 (tool에 대해) Agent-agonistic : agent와 무관한 도구 개선
  • T2 (tool에 대해) Agent supervised : agent 행동을 supervision 신호로 쓰는 도구 adaptation

Effects

• 이 프레임을 적용하면 기존 연구의 비교가 무의미해짐
  • e.g.
    • 이 agent는 tool-use가 뛰어나다 → agent adaption인가? tool adaptation인가?
    • memory를 업데이트하니 성능이 오른다 → agent가 바뀐건가, tool(memory module)이 바뀐건가?
    • execution feedback으로 학습했다 → agent를? retriever(search module)를?
• 연구 방향 제안
  • Hybrid / co-adaptation: agent 1개가 모든 adaptation을 부담하거나 (비용, 불안정성, …) tool-only adaptation(낮은 표현력)보다는 agent와 tool의 역할 부담을 주요 설계변수로 설정헤야 한다.
  • T2 (Agent-supervised Tool Adaptation) : memory update, retriever tuning, search sub-agent, planner refinement은 상대적으로 저렴하고 online/continual에 적합하면서 상대적으로 Safety 통제도 쉬움 → 실제 시스템은 T2를 중심으로 커질 것

Personal note. 서베이페이퍼라 내용을 재구성하는 것은 큰 의미는 없을 것 같아서, 제가 agent/tool-use 관련 연구 진행하면서 생각해볼만했던 지점 짧게 정리해봅니다. 저자들은 실질적으로 T2,그러니까 agent는 고정하고 agent의 output으로 tool을 adaptation해야한다는 입장을 밀어주고 있다고 느꼈고, 저 역시 저자들과 같은 생각으로 memory를 연구하고 있기는 하지만, memory를 tool로 묶어도 될지(T2) 는 조금 고민해볼 여지가 있는 것 같아요.

• 시스템에서 adaptation의 책임은 어디에 있는가? agent? tool? memory?
• adaptation이 online인가, offline인가? 비용이나 안정성은 감당할 수 있는가?
• rollback의 가능성이 있는가?
  • agent adaptation은 상대적으로 어렵고, tool adaptation은 쉬울 듯

    Comment. 뭔가 여러가지가 남발되고 제대로 정의도 되지 않아 관련 연구의 정리가 어려웠던 부분들이 이러한 류의 페이퍼들이 나오면서 어느정도 정리가 되어가는 것 같습니다. 정리가 되어간다는 것은 필드가 고인물이 되어간다는 의미이기도 해서 더 고착화되기 전에 의미 있는 연구를 해보는게 중요할 것 같습니다.