Multi-Agent System에서 LLM 들을 라우팅하는 논문

MAS 에서의 챌린지

1. Collaboration Modes : 에이전트 간 통신 메커니즘 최적화
2. Agent Roles : 쿼리 요구사항과, 컨텍스트에 따라 다른 특화된 작업을 서로다른 에이전트에 할당
3. LLM Selection : 역할에 적합한 LLM을 강점과 능력에 맞게 선택해서 할당

:) cascaded controller network 제안

1. Collaboration Mode Determination

   Variational Latent Variable Model을 사용해서 쿼리(Q)와 협업 모드(T) 사이의 의미론적인 연관성을 포착

   에이전트 수 결정 : 쿼리 임베딩과 학습 가능한 복잡성 매핑 함수로 필요한 전문가 에이전트 수 예측

2. Role Allocation

   쿼리(Q), 협업 모드(T), 이전 할당 역할(R)을 입력으로 구조화된 확률적 캐스케이드로 에이전트의 역할 할당

   에이전트의 역할이 순차적일 수도, 상호 의존적일 수 있어서 에이전트의 역할을 점진적으로 생성

3. LLM Routing

   1. mutli-nomial distribution 문제로 모델링 한다. 쿼리(Q), 협업 모드(T), 이전 할당 역할(R)로 각 LLM이 선택될 확률을 예측하는 모델

• End-To-End Training
• Plug-And-Play