🆓 35B 파라미터로 1T 모델을 능가하는 에이전트 AI: Agents-A1

안녕하세요! 오늘은 InternScience에서 공개한 Agents-A1이라는 새로운 에이전트 모델에 대해 알아보겠습니다. 이 모델은 35B 파라미터의 Mixture-of-Experts(MoE) 구조를 사용하면서도, 1T 파라미터급 모델들과 경쟁할 수 있는 성능을 보여주는 혁신적인 접근법을 제시합니다. "파라미터를 키우지 않고 에이전트의 수평선을 확장한다"는 철학으로, 장기 검색, 엔지니어링, 과학 연구, 지시 따르기, 도구 호출 등 6가지 에이전트 능력을 하나의 모델로 통합했습니다.

이 블로그에서는 Agents-A1의 핵심 아키텍처, 3단계 에이전트 훈련 방식, 주요 벤치마크 결과, 그리고 SGLang과 vLLM을 활용한 로컬 서빙 방법에 대해 상세히 설명하겠습니다. AI 에이전트 개발에 관심 있는 분들에게 실용적인 가이드가 될 것입니다.

🤖 Agents-A1이란 무엇인가?

Agents-A1은 InternScience 팀이 개발한 35B 파라미터 Mixture-of-Experts(MoE) 에이전트 모델입니다. 이 모델의 핵심 철학은 "파라미터가 아닌 에이전트의 수평선을 확장한다(Scaling the Horizon, Not the Parameters)"는 것입니다.

Mixture-of-Experts(MoE)란?
여러 개의 전문가 네트워크(Expert)를 두고, 입력 데이터에 따라 가장 적합한 전문가를 선택하여 처리하는 아키텍처입니다. 이를 통해 파라미터 수를 크게 늘리지 않으면서도 다양한 작업에 대한 전문성을 확보할 수 있습니다.

Agents-A1은 다음과 같은 특징을 가지고 있습니다:

35B MoE 구조: 효율적인 파라미터 사용으로 높은 성능 달성
256K 컨텍스트 길이: 긴 대화와 문서를 처리할 수 있는 확장된 컨텍스트
6가지 에이전트 능력: 장기 검색, 엔지니어링, 과학 연구, 지시 따르기, 도구 호출, 과학 에이전트 작업
1T 파라미터급 성능: Kimi-K2.6, DeepSeek-V4-pro와 같은 대형 모델들과 경쟁

⚙️ 핵심 아키텍처 살펴보기

Agents-A1은 에이전트 워크플로우를 위해 특별히 설계된 아키텍처를 가지고 있습니다. 모델은 복잡한 목표를 실행 가능한 하위 단계로 분할하고, 도구를 사용하며, 중간 상태를 검사하고, 긴 컨텍스트 전반에 걸쳐 제약 조건을 유지하는 능력을 갖추고 있습니다.

에이전트 핵심 기능

기능	설명	활용 사례
에이전트 추론	복잡한 목표를 실행 가능한 하위 단계로 분할하고 계획 수립	복잡한 프로젝트 관리, 다단계 문제 해결
도구 사용	함수 호출, API, 코드 인터프리터, 검색 엔진 지원	외부 시스템 연동, 데이터 처리
긴 컨텍스트	256K 토큰까지 확장된 대화 및 문서 처리	긴 대화 유지, 대용량 문서 분석
지시 따르기	과학 연구 프롬프트부터 도구 워크플로우까지 다양한 제약 조건 추적	정밀한 지시 실행, 복잡한 워크플로우

📚 3단계 에이전트 훈련 파이프라인

Agents-A1의 핵심 혁신은 도메인 기반 지식-행동 그래프(Domain-grounded Knowledge-Action Graph)를 활용한 3단계 에이전트 훈련 방식입니다. 이 방식은 에이전트 프로세스 트레이스를 훈련 가능한 타겟으로 변환하여 효율적인 지식 전달을 달성합니다.

핵심 개념: 에이전트 프로세스 트레이스란 모델이 작업을 수행하는 동안의 모든 단계와 결정을 기록한 것입니다. 이를 통해 모델은 특정 도메인에서의 전문성을 효과적으로 학습할 수 있습니다.

Stage 1: 전체 도메인 지도 학습 미세 조정(Full-domain Supervised Fine-tuning)

첫 번째 단계에서는 기본 모델을 검색, 엔지니어링, 연구, 도구, 지시 등 다양한 에이전트 행동에 맞추는 작업을 수행합니다. 이를 통해 모델은 광범위한 에이전트 능력을 기초적으로 습득합니다.

Stage 2: 도메인별 교사 모델(Domain-level Teacher Models)

두 번째 단계에서는 각 도메인에 대한 전문 지식을 포착하는 교사 모델을 훈련합니다. 이를 통해 최종 모델은 더 강하고 다양한 감독을 받을 수 있게 됩니다.

Stage 3: 다중 교사 온폴리시 증류(Multi-teacher On-policy Distillation)

세 번째 단계에서는 서로 다른 도메인 간의 지식 전달 효율성을 향상시키기 위해 두드러진 어휘 정렬(Salient Vocabulary Alignment)을 적용한 다중 교사 도메인 라우팅 온폴리시 증류를 제안합니다. 이를 통해 6개의 이질적인 도메인을 하나의 배포 가능한 학생 모델로 통합합니다.

📊 벤치마크 성능 비교

Agents-A1은 다양한 에이전트 벤치마크에서 강력한 성능을 보여줍니다. 특히 1T 파라미터급 모델인 Kimi-K2.6 및 DeepSeek-V4-pro와 비교하여 주요 벤치마크에서 우수한 결과를 달성했습니다.

벤치마크	Agents-A1 (35B)	Kimi-K2.6 (1T)	DeepSeek-V4-pro (1T)	평가 영역
SEAL-0	56.4	55.8	54.9	장기 검색 (전체 SOTA)
IFBench	80.6	79.2	78.5	지시 따르기 (전체 SOTA)
FrontierScience-Olympiad	79.0	77.5	76.8	과학 연구 (전체 SOTA)
HiPhO	46.4	45.1	44.3	장기 검색
MolBench-Bind	56.8	55.2	54.6	과학 에이전트
BrowseComp	75.5	76.1	74.8	장기 검색
SciCode	44.3	45.0	43.8	엔지니어링
HLE	47.6	48.2	47.0	일반 에이전트

특히 SEAL-0(56.4), IFBench(80.6), FrontierScience-Olympiad(79.0)에서 1T 파라미터 모델들을 능가하는 성능을 보여줍니다. 35B 파라미터로 1T 파라미터급 성능을 달성한 것은 상당한 의미를 가집니다.

🚀 로컬 서빙 가이드

Agents-A1은 SGLang이나 vLLM을 통해 OpenAI 호환 엔드포인트로 서빙할 수 있습니다. 다음은 로컬에서 모델을 실행하는 방법입니다.

SGLang으로 서빙하기

python -m sglang.launch_server \
  --model-path InternScience/Agents-A1 \
  --port 8000 \
  --tp-size 1 \
  --mem-fraction-static 0.8 \
  --context-length 262144 \
  --reasoning-parser qwen3 \
  --tool-call-parser qwen3_coder

vLLM으로 서빙하기

vllm serve InternScience/Agents-A1 \
  --port 8000 \
  --tensor-parallel-size 1 \
  --max-model-len 262144 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder

주의사항: 모델을 실행하기 위해 충분한 GPU 메모리가 필요합니다. 35B MoE 모델이므로 최소 24GB 이상의 GPU 메모리가 권장됩니다. 컨텍스트 길이를 256K로 설정할 경우 추가적인 메모리가 필요할 수 있습니다.

🔍 평가 프레임워크 및 관련 프로젝트

Agents-A1은 공개된 평가 프레임워크를 제공하여 도구 사용, 다단계 추론, 에이전트 지향 작업에 대한 재현 가능한 테스트를 지원합니다. 또한 InternScience 팀의 다른 프로젝트들과 함께 에이전트 시스템, 자동화된 머신 러닝, 장기 추론 분야에서의 광범위한 연구의 일부입니다.

프로젝트	설명	GitHub
InternAgent	InternScience 팀의 에이전트 시스템 연구 및 인프라	GitHub
MLEvolve	자동화된 머신 러닝 워크플로우 및 모델 진화	GitHub
Agents-K1	에이전트 능력 및 추론에 초점을 맞춘 관련 프로젝트	GitHub

🖥️ GPU 메모리 요구사항 상세 분석

Agents-A1은 35B MoE 모델이므로 GPU 메모리 요구사항을 정확히 이해하는 것이 중요합니다. MoE 구조의 특성상 전체 파라미터를 동시에 로드하지 않으므로, 일반적인 35B 모델보다 상대적으로 적은 메모리로 실행할 수 있습니다.

설정	권장 GPU 메모리	비고
기본 설정	24GB 이상	단일 GPU, 기본 컨텍스트
긴 컨텍스트 (256K)	48GB 이상	긴 시퀀스 처리 시 추가 메모리 필요
멀티 GPU	4개 GPU 권장	텐서 병렬 처리로 분산 실행
양자화 모델	12~16GB	INT4/INT8 양자화 사용 시

팁: Mac에서도 mlx-community에서 제공하는 양자화 버전을 사용하여 Agents-A1을 실행할 수 있습니다. Apple Silicon Mac에서는 Metal Performance Shaders(MPS)를 활용하면 효율적인 추론이 가능합니다.

📦 상세 설치 가이드

Agents-A1을 로컬 환경에서 실행하기 위한 상세한 설치 가이드입니다. Python 3.12 이상과 충분한 GPU 메모리가 필요합니다.

1단계: 환경 설정

# Python 가상 환경 생성
uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate

# SGLang 설치
uv pip install sglang

# 또는 vLLM 설치
uv pip install vllm --torch-backend=auto

2단계: 모델 다운로드

# HuggingFace에서 모델 다운로드
# 자동으로 모델 가중치가 다운로드됩니다
python -c "from transformers import AutoModelForCausalLM; AutoModelForCausalLM.from_pretrained('InternScience/Agents-A1')"

3단계: 서버 실행

# SGLang으로 서버 시작
python -m sglang.launch_server \
  --model-path InternScience/Agents-A1 \
  --port 8000 \
  --tp-size 1 \
  --mem-fraction-static 0.8 \
  --context-length 262144 \
  --reasoning-parser qwen3 \
  --tool-call-parser qwen3_coder

# 또는 vLLM으로 서버 시작
vllm serve InternScience/Agents-A1 \
  --port 8000 \
  --tensor-parallel-size 1 \
  --max-model-len 262144 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_coder

🎯 샘플링 파라미터 가이드

최적의 생성 품질을 위해 InternScience에서 권장하는 샘플링 파라미터입니다. 이 파라미터들은 Agents-A1의 에이전트 능력을 최대한 발휘할 수 있도록 조정되었습니다.

파라미터	권장 값	설명
`temperature`	0.85	출력의 무작위성 제어. 높을수록 다양한 응답 생성
`top_p`	0.95	누적 확률 기반 토큰 샘플링. 0.95는 상위 95% 확률 토큰에서 샘플링
`top_k`	20	상위 K개 토큰에서만 샘플링. 너무 높으면 무작위성 증가
`min_p`	0.0	최소 확률 임계값. 0.0은 비활성화
`presence_penalty`	1.1	이미 나온 토큰에 대한 패널티. 반복 줄임
`repetition_penalty`	1.0	반복 토큰에 대한 패널티. 1.0은 비활성화

주의: temperature를 너무 높이면(1.0 이상) 비일관적인 응답이 생성될 수 있습니다. 에이전트 작업의 경우 0.7~0.9 범위가 적절합니다.

❓ 자주 묻는 질문

Q: Agents-A1은 어떤 언어를 지원하나요?
A: 주로 영어로 훈련되었지만, 한국어를 포함한 여러 언어에서 기본적인 이해 능력을 보여줍니다. 한국어 특화 작업의 경우 추가 파인튜닝이 권장됩니다.

Q: 오픈소스 모델인가요?
A: 네, Apache-2.0 라이선스로 공개되어 있습니다. 상업적 사용도 가능하며, GitHub 저장소에서 모델 가중치와 평가 코드를 확인할 수 있습니다.

Q: 기존 모델과 어떻게 다른가요?
A: Agents-A1은 "파라미터가 아닌 에이전트의 수평선을 확장한다"는 접근법을 취합니다. 35B 파라미터로 1T 파라미터급 모델들과 경쟁할 수 있는 성능을 보여주는 것이 핵심 차별점입니다.

Q: 실제 에이전트 작업에 사용할 수 있나요?
A: 네, 함수 호출, 도구 사용, 장기 추론 등 실제 에이전트 워크플로우에 바로 적용할 수 있습니다. SGLang이나 vLLM을 통해 OpenAI 호환 API로 서빙하면 됩니다.

🎯 맺음말

지금까지 Agents-A1에 대해 알아보았습니다. Agents-A1은 35B MoE 구조를 활용하여 1T 파라미터급 모델들과 경쟁할 수 있는 성능을 보여주는 혁신적인 에이전트 모델입니다. 3단계 에이전트 훈련과 도메인 기반 지식-행동 그래프를 통해 장기 검색, 엔지니어링, 과학 연구 등 다양한 에이전트 능력을 하나의 모델로 통합했습니다. 특히 SEAL-0(56.4), IFBench(80.6), FrontierScience-Olympiad(79.0)에서 1T 파라미터 모델들을 능가하는 성능을 달성했습니다.

다만 현재 모델의 GPU 메모리 요구사항이 높아 일반적인 환경에서의 실행이 제한될 수 있습니다. SGLang이나 vLLM을 활용하면 OpenAI 호환 엔드포인트로 쉽게 서빙할 수 있으므로, 관련 인프라가 갖춰진 환경에서 활용하는 것이 가장 효율적입니다.

여러분도 한번 HuggingFace에서 Agents-A1을 직접 체험해보시길 추천드리면서 저는 다음 시간에 더 유익한 정보를 가지고 다시 찾아뵙겠습니다. 감사합니다.

📚 참고 문헌 및 출처

Bai, L., Cao, Z., Chen, Y., et al. (2026). Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent. arXiv. Retrieved from https://arxiv.org/abs/2606.30616
InternScience. (2026). Agents-A1: 35B MoE Agentic Model. Hugging Face. Retrieved from https://huggingface.co/collections/InternScience/agents-a1
InternScience. (2026). Agents-A1 GitHub Repository. GitHub. Retrieved from https://github.com/InternScience/Agents-A1

'AI 도구' 카테고리의 다른 글

🔬 Claude Science: 과학자를 위한 AI 워크벤치, 60개 스킬로 연구를 10배 빠르게 (0)	2026.07.06
🪨 Caveman: AI 코딩 에이전트 출력 토큰 65% 절감하는 마법의 스킬 (0)	2026.07.05
🔐 817개 사이버보안 스킬로 AI 에이전트를 시니어 분석가로 만드는 법 (1)	2026.07.05
🚀 DeepSpec + DFlash: RTX 4060에서 LLM 추론 5배 가속하는 스펙큘러티브 디코딩 완벽 가이드 (0)	2026.07.03
🤖 엔비디아 제치고 세계 1위! 리얼월드 RLDX-1 로봇 파운데이션 모델의 비밀 (0)	2026.07.01