들어가며
도쿄에 본사를 둔 AI 연구 기업 Sakana AI가 2026년 10월 12일 **MASS(Multi-Agent Self-Supervision, 멀티에이전트 자기지도 학습)**를 공개했습니다. MASS는 재귀적 자기개선(RSI) 방법으로, 하나의 언어 모델이 작업 실행, 워크플로 최적화, 결과 평가라는 세 가지 역할을 동시에 맡습니다. arXiv 논문, 자세한 기술 블로그, GitHub 오픈소스 코드가 함께 공개되었습니다.
저자들이 다루는 질문은 말로 하면 간단하지만 풀기는 어렵습니다. 연구, 보고서, 분석처럼 정답이 하나로 정해지지 않은 작업에서는 인간 전문가조차 모든 것을 빠르게 평가할 수 없기 때문에, 모델 자신이 가장 유력한 감독자가 될 수 있습니다. 하지만 혼자 일하는 모델은 자신의 실수를 바로잡기보다 오히려 강화하는 경향이 있습니다. MASS는 같은 모델의 여러 복사본을 하나의 팀으로 조직하고, 그 팀의 공동 작업을 학습 신호로 사용하는 방식을 택했습니다.
일본에서 기업용 AI 에이전트나 업무 자동화를 개발하는 분들에게 이 연구는 두 가지 의미가 있습니다. 지금 바로 자사 워크플로에 적용할 수 있는 아이디어가 있고, 스스로를 평가하는 모든 시스템에 해당하는 안전 경고가 있다는 점입니다.
MASS란 무엇인가
MASS에서는 같은 모델이 세 가지 역할을 맡습니다.
- 에이전트(실행자): 작업을 해결하고 코드, 결과, 그래프, 보고서가 담긴 작업 공간을 만듭니다.
- 워크플로 최적화자: 평가자의 피드백을 바탕으로 팀이 일을 나누고, 결과를 주고받고, 서로의 작업을 점검하는 방식을 수정합니다.
- 평가자: 두 작업 공간을 비교해 작업 요구를 더 잘 충족하는 쪽을 고르고 그 이유를 설명합니다.
여기서 "워크플로"란 작업 프롬프트에 덧붙이는 글로 된 계획으로, 오케스트레이터와 서브에이전트로 이루어진 팀을 설명합니다. 각 워크플로는 네 가지 요소로 구성됩니다. 역할(각 서브에이전트의 책임), 지시(무엇을 해야 하는지), 계약(반환해야 하는 정보와 검증 항목), 호출 순서(서브에이전트를 부르는 순서)입니다.
Sakana가 소개한 예로 금융 워크플로가 있습니다. 데이터 담당자의 계약은 미래 정보가 새어 들어오지 않았는지, 그리고 학습·검증·테스트 기간이 올바른 순서인지를 명시적으로 확인하도록 요구합니다. 백테스트를 그럴듯해 보이게 만들지만 실제로는 쓸모없게 만드는 바로 그런 종류의 오류입니다.
루프는 어떻게 작동하나
MASS는 두 개의 루프를 번갈아 돌립니다.
내부 루프: 더 나은 워크플로 탐색. 학습용 작업마다 시스템은 "챔피언", 즉 모델 자신의 판단으로 지금까지 찾은 가장 좋은 워크플로를 유지합니다. 매 반복마다 팀이 후보 워크플로를 실행하고, 평가자가 그 결과를 챔피언의 결과와 비교하며, 최적화자가 피드백 기록을 바탕으로 다음 버전을 제안합니다. 논문에 따르면 이는 구조적 가드레일의 제약을 받는 진화적 탐색이며, 최적화자의 프롬프트는 계약과 호출 순서, 다시 말해 에이전트 사이에 어떤 정보가 언제 흐르는지를 우선시합니다.
외부 루프: 최고의 팀에게서 배우기. 챔피언 워크플로를 작업마다 18번 실행합니다. 모델 자신이 결과를 비교해 순위를 매기고(Bradley–Terry 모델로 선호를 점수로 변환), 작업마다 최대 16개의 궤적을 남깁니다. 15개는 학습용, 1개는 검증용입니다. 오케스트레이터의 프롬프트에서 워크플로 텍스트를 제거한 뒤, 오케스트레이터와 서브에이전트의 대화로 모델을 지도 미세조정(SFT, LoRA 사용)합니다. 업데이트된 모델이 다시 세 역할을 맡고 사이클이 반복됩니다.
목표는 워크플로를 받지 않아도 모델이 작업 자체로부터 일을 조직하는 방법을 배우게 하는 것입니다.
무엇을 측정했나
연구팀은 오픈 웨이트 모델 Qwen3.6-27B와 코딩 에이전트 qwen-code를 사용해 두 번의 전체 사이클을 돌렸습니다. 학습 데이터는 금융, 로보틱스, 약학 분야의 합성 연구 작업 12개에서 나왔습니다. 9개가 학습용으로 지정되었고(실제로 데이터를 만든 것은 8개), 3개는 테스트용으로 남겨 두었습니다. 루프 밖에서 진전을 측정하기 위해 GPT-5.5와 Claude Opus 4.8이 결과를 평가했으며, 이 평가는 MASS 안에서 사용되지 않았습니다.
Sakana와 논문이 제시한 주요 수치는 다음과 같습니다.
- 두 번째 사이클 이후 네 가지 연구 벤치마크(MLR-Bench, DSBench, ScienceAgentBench, AstaBench)에서 출력 토큰당 점수가 기본 모델의 1.2~1.6배에 도달했습니다.
- 세 개의 합성 테스트 작업에서 기본 모델 대비 승률은 첫 번째 사이클 후 **53.9%**에서 두 번째 사이클 후 **69.9%**로 올랐습니다.
- 학습에는 작업 해결 궤적만 사용했지만 최적화자와 평가자도 개선되었습니다. 평가자와 외부 심사자의 일치율은 **73%에서 93%**로 높아졌습니다.
- 멀티에이전트 궤적은 학습 토큰당 효율이 더 높습니다: 이를 학습한 모델은 2,880만 개의 지도 토큰으로 기본 모델 대비 승률 68.3%를 기록했습니다. 반면 단일 에이전트 궤적으로 학습한 모델은 약 1.4배 많은 4,200만 토큰을 쓰고도 64.0%였습니다.
- 어블레이션 실험에서 개선 속도의 병목은 평가자가 아니라 최적화자였습니다. 평가자만 더 강한 모델로 바꾸면 효과가 작았고, 평가자와 최적화자를 모두 바꾸면 효과가 컸습니다.
코드를 안전하게 시험해 보는 방법
github.com/SakanaAI/mass 저장소는 연구용 구현으로 소개되어 있습니다. 신중하게 접근한다면 다음 순서를 권합니다.
- 오프라인 모드부터 시작하세요. README에 따르면
python3 -m mass plan --config configs/paper.json은 아무것도 실행하지 않고 설정만 보여 주며, 단위 테스트는 GPU나 모델 서버 없이 실행됩니다. - 환경을 격리하세요. MASS에서는 에이전트가 코드를 작성하고 실행합니다. 사내 네트워크에 접근할 수 없고 운영 환경 자격 증명도 없는 별도의 VM이나 컨테이너를 사용하세요. 저장소에
.env.example이 있지만, 넓은 권한을 가진 키는 넣지 마세요. - 하드웨어를 먼저 산정하세요. 실제 실험에는 vLLM으로 모델을 서빙하고 GPU를 할당해야 합니다. 첫 번째 사이클의 SFT만 해도 NVIDIA H100 GPU 6장으로 약 19시간이 걸렸으며, 워크플로 탐색, 궤적 수집, 평가 시간은 포함되지 않았습니다.
- 라이선스를 확인하세요. 이 글을 게시하는 시점에 저장소 루트에서 라이선스 파일을 찾지 못했습니다(제3자 소프트웨어와 데이터에 관한 NOTICE.md는 있습니다). 상업적으로 사용하기 전에 Sakana AI에 조건을 확인하세요.
- 구현 노트를 읽으세요. README에는 논문의 모든 어블레이션이 포함된 것은 아니며, 일부 벤치마크 어댑터가 패키지에 없고, 현재 드라이버가 논문의 알고리즘과 일부 다르다는 점이 명시되어 있습니다.
아무것도 학습시키지 않더라도 계약의 교훈은 오늘 바로 적용할 수 있습니다. 여러 에이전트를 쓰는 흐름에서 각 단계가 무엇을 전달해야 하는지, 다음 단계가 시작되기 전에 어떤 검증을 입증해야 하는지를 글로 정해 두세요.
안전 주의사항: 공유된 맹점
가장 중요한 경고는 저자들 스스로가 하고 있습니다. 같은 모델이 생성하고, 평가하고, 무엇을 학습 데이터로 삼을지 결정하면, 공유된 맹점 때문에 결함 있는 결과가 만들어지고, 개선으로 받아들여지고, 다음 모델에 통합될 수 있습니다. 사람도 그 결함을 알아차리지 못하면 이후 업데이트가 결함을 더 강화할 수 있습니다. Sakana는 이를 재귀적 자기개선의 "아킬레스건"이 될 수 있다고 표현하며, 독립적인 점검, 자율 행동에 대한 제약, 명확한 개입 조건이 필요하다고 강조합니다.
기업에 주는 실천적 의미는 이렇습니다. 중요한 결정에서 같은 모델이 자기 작업의 유일한 심사자가 되게 하지 마세요. 별도의 평가자, 시스템이 보지 못하는 테스트 세트, 핵심 지점에서의 사람 검토를 유지하세요.
기대하지 말아야 할 것
- 프로그래밍 전반의 성능 향상이 아닙니다. Terminal-Bench 2.0과 SWE-bench Verified에서 토큰당 점수는 각각 기본 모델의 0.96배와 0.94배였습니다. Sakana도 전이가 "여전히 고르지 않다"고 밝혔습니다.
- 향상의 일부는 더 많이 제출한 데서 나옵니다. MLR-Bench의 상승은 제출된 논문 수 증가와 함께 나타났습니다. 논문 자체도 증거가 집계 방식에 따라 달라지며 모든 작업에서 일관된 향상을 입증하지는 않는다고 말합니다.
- 탐색은 변동이 큽니다. 좋은 반복 뒤에 급격한 하락이 올 수 있고, 같은 워크플로를 두 번 실행해 정반대 결과가 나온 사례도 있었습니다.
- 완성된 제품이 아닙니다. 두 번의 사이클, 27B 모델, 합성 작업에서 나온 결과입니다. 바로 쓸 수 있는 도구가 아니라 연구입니다.
맺으며
MASS는 자기 자신의 복사본들이 함께 일하는 팀워크를 활용해 개선되는 모델을 향한 흥미로운 한 걸음이며, 오픈 코드와 함께 향상이 없었던 부분까지 포함한 정직한 수치를 공개했습니다. 중소기업에게 당장의 가치는 전체 사이클을 돌리는 것보다 그 아이디어에 있습니다. 에이전트 간의 명확한 계약, 생성과 분리된 평가, 그리고 스스로를 평가하는 모든 시스템의 맹점에 대한 각별한 주의입니다.
출처
- Sakana AI: Recursive Self-Improvement through Collective Intelligence (MASS)
- Sakana AI: MASS — blog técnico detalhado
- arXiv 2610.12176: Recursive Self-Improvement through Multi-Agent Self-Supervision
- GitHub: SakanaAI/mass
귀사의 비즈니스에도 도입해 보시겠어요?
KGA IT는 중소기업의 AI 어시스턴트, 업무 자동화, 웹사이트 구축을 지원합니다. 상담은 무료이며 24시간 이내에 답변드립니다. 요금제는 월 ¥5,000부터입니다.
- 전화: 080-9732-1062
- 이메일: kga-it@outlook.com
- 문의 페이지: kga-it.com/ko/contact