TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
GPT-6 Astra가 Qwen 가중치를 직접 수정해 수학 능력 6배 폭등: 「신경망의 유전자 편집」 시대가 온다?

GPT-6 Astra가 Qwen 가중치를 직접 수정해 수학 능력 6배 폭등: 「신경망의 유전자 편집」 시대가 온다?

2026.11.03
공유하기
학습하지 않고, 데이터를 투입하지 않으며, 경사 하강법도 수행하지 않고, GPT-6 Astra는 Qwen3.5-0.8B의 가중치 중 0.016%만 변경했을 뿐인데, MATH-500 점수가 7.9%에서 48.1%로 뛰어올랐습니다.

작성자: TechFlow

훈련이 필요 없으며, 데이터도 필요 없고, 경사 하강법조차 필요 없습니다.

MIT 연구원들은 오픈 소스 소형 모델의 가중치를 GPT-6 Astra에 던지고 자연어로 명령을 내렸습니다. 「수학 능력을 높여라」였습니다.

Astra는 20시간을 들여 8억 개의 매개변수를 검토하고, 두 층의 네트워크에서 131,072개의 가중치를 찾아 수술을 진행했습니다.

수술 전 이 모델은 MATH-500 벤치마크 테스트에서 7.9%를 기록했으며, 수술 후 점수는 48.1%로 올라갔습니다.

바로 오늘 가장 파격적인 AI 뉴스입니다.

경사 하강법 없는 수술

11월 2일, MIT 컴퓨터과학 및 인공지능연구소(CSAIL) 연구진은 「가중치 공간 프로그래밍」(Weight-Space Programming)이라 명명한 실험 결과를 발표하는 블로그 포스트를 게시했습니다. 제1저자인 Rikiya Takehi는 MIT CSAIL 박사과정 1학년이며, 공동 저자로 Jayden Teoh, Alex Zhang와 Takehi의 지도교수인 Omar Khattab가 포함되었습니다.

실험의 핵심 아이디어는 한 문장으로 요약할 수 있습니다.충분히 강력한 AI에게 다른 AI의 「뇌」를 직접 읽게 해 문제를 찾고, 메스질로 정확하게 수정하게 한다.

선정된 「환자」는 알리바바의 오픈 소스 모델 Qwen3.5-0.8B로, 8억 매개변수의 소형 언어모델입니다. 「외과 의사」 역할을 맡은 것은 OpenAI의 최신 모델 GPT-6 Astra입니다.

연구진은 Astra에게 세 가지 도구를 제공했습니다: 수학 문제 풀이 세트, 모델 가중치를 읽고 쓸 수 있는 Python 환경, 그리고 제한된 횟수의 모델 추론 호출 권한이었습니다. GPU도, 훈련 루프도, 옵티마이저도 없었습니다. Astra는 인간 연구원처럼 행동해야 했으며, 모델의 동작을 관찰하고 가중치 값을 검사하여 문제를 진단한 뒤 매개변수를 직접 수정해야 했습니다.

전체 과정은 20.3시간 동안 지속되었으며, 그중 4.7시간은 서비스 중단 복구 대기 시간에 할애되었습니다. Astra는 158회 대화, 80회 Python 실행, 50회 모델 평가를 수행했습니다.

최종적으로 Astra는 15층과 19층의 MLP 출력 행렬에서 모델을 반복 출력에 빠지게 만드는 「수치 방향」을 찾아냈고, 이를 64개의 출력 열에서 빼내는 작업을 진행했습니다. 수정된 가중치는 총 131,072개로, 모델 전체 매개변수의 0.016%에 해당합니다.

수학 실력 여섯 배 향상

변경 폭은 작았으나 효과는 파격적이었습니다.

세 가지 벤치마크 테스트에서 수정 전후 비교 결과는 다음과 같습니다:

MATH-500: 7.9% → 48.1%

GSM8K: 13.8% → 67.1%

IFEval(명령어 준수): 21.0% → 62.3%

보다 직관적인 수치 하나를 꼽자면, 수정 전 Qwen3.5-0.8B는 MATH-500에서 응답의 93%가 반복 루프에 빠져 32,768개 토큰의 한계에 도달했습니다. 수정 후 이 비율은 33.1%로 떨어졌습니다.

VentureBeat의 보도에서는 이를 「신경망의 유전자 편집」에 비유했습니다. 이 비유는 핵심을 정확히 찌릅니다. 기존의 모델 훈련이 많은 연습을 통해 한 사람의 수학 실력을 키우는 것과 유사하다면, 가중치 공간 프로그래밍은 마치 뇌를 직접 열어 잘못된 연결의 신경을 찾아 다시 연결하는 것과 더 가깝습니다.

다만 연구진 자체에서 중요한 조건을 덧붙였습니다.Astra가 Qwen에 새로운 수학 능력을 주입한 것은 아니며, 단지 기존 능력을 발휘하는 것을 막고 있던 장벽을 제거했을 뿐이다.

이 차이는 매우 중요합니다. 이를 검증하기 위해 연구진은 Google의 Gemma 3 270M 모델에서 동일한 실험을 반복했습니다. Gemma 3은 반복 출력 문제가 거의 발생하지 않았으며(응답의 8.5%만 토큰 한계에 도달), 결과적으로 Astra가 적용된 후 Gemma 3의 MATH-500 점수는 거의 향상되지 않았고 변동폭은 1%p 미만이었습니다.

결론은 명확합니다. 현재 가중치 공간 프로그래밍으로 할 수 있는 것은 「길목에 설치된 장애물 철거」이지 「새로운 길 개척」이 아닙니다.

수학뿐만이 아니다

수학은 연구진이 보여준 하나의 사례일 뿐이며, Astra가 가중치 공간에서 보이는 능력은 그보다 훨씬 넓습니다.

「영혼」 식별: 연구진은 아키텍처가 완전히 동일한 Atari 게임 전략 네트워크 4개(Breakout, Pong, Pac-Man, Freeway)를 훈련한 뒤, 레이블 하나 없이 오직 가중치만 Astra에게 제공했습니다. Astra는 가중치 값만으로 각 네트워크가 어떤 게임을 담당하는지 정확하게 알아냈습니다. 추론 과정은 이렇습니다. Breakout 네트워크의 첫 번째 층 가중치가 화면 하단(패들 위치)에 집중되어 있고, 출력층의 행동 분포가 좌우 이동에 치우쳐 있다는 점을 기반으로 합니다.

제로부터 네트워크 생성: MinAtar(ATARI의 축소판) 실험에서 Astra는 제로베이스에서 시작해 가중치 공간에서 직접 게임 전략 네트워크를 「구현」했습니다. Breakout에서 Astra가 작성한 네트워크는 517.4점을 획득했으며, 반면 PPO 알고리즘으로 5억 스텝을 훈련한 네트워크는 고작 25.3점에만 머물렀습니다.

멈춰버린 자율주행 복구: PPO로 훈련된 소형 차량 컨트롤러가 경사로에서 멈춰 지역 최적값에 갇혀 있었습니다. Astra는 단 한 라운드의 대화로 가중치의 3.5%를 수정할 뿐이었고, 수정된 컨트롤러는 1,024회 테스트에서 모두 성공했습니다.

이 실험들의 공통점은 Astra가 단순히 가중치를 「읽어내는」 수준을 넘어, 각 숫자가 어떠한 행동을 나타내는지 이해할 뿐만 아니라 가중치를 「재작성」하여 기존 훈련 알고리즘으로는 불가능했던 일을 구현하게 한다는 것입니다.

「신경망의 유전자 편집」은 무엇을 의미할까요?

가중치 공간 프로그래밍 이전에도 학계에서는 모델 가중치를 직접 편집하려는 시도가 존재했습니다. 2022년 NeurIPS의 ROME과 2023년 ICLR의 MEMIT은 언어 모델의 가중치에 사실 기반 지식을 정밀하게 삽입하거나 수정하는 방법을 보여주었는데, 예를 들어 「에펠탑은 파리에 있다」는 내용을 「에펠탑은 로마에 있다」로 변경하는 작업이었습니다.

하지만 ROME과 MEMIT이 수행한 것은 「사실 차원의 찾기-바꾸기」였으며, 조작 대상은 개별 지식 한 줄에 불과했습니다. MIT 팀이 이번에 제시한 것은 다릅니다. Astra가 수정한 것은 모델의 범용 능력, 즉 수학 추론과 명령어 준수입니다. 이는 「지식 포인트 편집」에서 「행동 패턴 변경」으로 가는 관문을 넘은 것입니다.

Takehi는 블로그에서 다음과 같이 보다 공격적인 판단을 내렸습니다. 「신경망의 가중치는 곧 가중치를 추론할 수 있는 LLM이 네이티브 방식으로 최적화할 것이다」.

이 방향성이 검증된다면 잠재적 응용 분야로는 다음과 같은 것들이 거론됩니다:

모델 복구: 배포된 모델에 문제가 발생하면 다시 모아서 재훈련할 필요 없이 다른 AI에게 「진단」을 받아 직접 수정할 수 있습니다. 훈련 비용이 몇 천만 달러에 달하는 최첨단 모델들에게 이는 엄청난 비용 절감을 의미할 수 있습니다.

모델 감사: AI가 가중치를 읽어낼 수 있다면 보안 연구원들도 이를 활용하여 모델에 백도어나 악성 행동이 주입되었는지 점검할 수 있습니다.

오픈 소스 모델 커스터마이징: 충분한 역량을 갖춘 AI는 자연어 명령에 따라 오픈 소스 모델에 필요한 능력을 「맞춤 설정」할 수 있으며, 이는 별도의 훈련 인프라 없이 이루어집니다.

동전의 이면

GPT-6 Astra 자체가 이미 논란에 휩싸인 모델입니다. OpenAI는 보안 우려로 인해 업그레이드 버전인 GPT-6.1 Astra 출시를 지연시킨 바 있습니다.

OpenAI 수석 과학자인 Jakub Pachocki는 Astra 출시 사흘 후 경고성 기고를 올렸습니다. OpenAI의 내부 테스트 결과에 따르면 AI의 진보는 「재귀적 자기 개선」 방향으로 나아갈 수 있으며, 이는 AI 시스템이 자신의 후속 버전을 구축하는 과정에 점점 더 많이 참여한다는 뜻입니다. 그는 어떤 연구소의 내부 심사 체계로도 이러한 전망에 대응하기에 충분하지 않다고 밝혔습니다.

가중치 공간 프로그래밍은 바로 이 경고의 핵심을 건드리고 있습니다. 만약 한 AI가 다른 AI의 가중치를 수정하여 능력을 향상시킬 수 있다면, 이론상 한 AI가 자기 자신의 가중치를 수정할 수 있을까요?

연구진은 블로그에서 재귀적 자기 개선이나 효과가 지속적으로 중첩되는 모습을 보여주지 않았다고 분명히 밝힘에도 불구하고, 안전 커뮤니티의 경계심을 누그러뜨리지는 못했습니다. PauseAI의 Maxime Fournes는 이를 「아주 무모한 연구 방향」이라고 일갈했습니다.

현재의 제약 조건도 분명히 존재합니다. 실험은 8억 매개변수의 소형 모델에서는 성공했으나 Gemma 3에서는 실패했습니다. 전체 과정은 20시간이 소요되며 수많은 시행착오를 거쳐야 하며, 독립적인 팀에 의한 재현 결과는 아직 없습니다. 전통적인 미세 조정 대비 비용 우위 역시 입증되지 않았습니다.

하지만 목표 방향성은 이미 설정되었습니다. ICML 2026에서도 논문이 발표되어, 가중치 공간이 텍스트, 이미지, 오디오와 나란히 생성형 AI의 「제1 시민 모듈리티」가 되어야 하며, 모델은 가중치를 네이티브하게 이해하고 조작해야 한다고 주장했습니다.

2024년이 AI가 「그림을 보고 설명하는 법」을 배우는 해였다면, 2025년이 AI가 「코드 작성하는 법」을 익히는 해였다면, 2026년부터는 AI가 「다른 AI를 개선하는 법」을 깨달기 시작하는 해가 될지도 모릅니다.

이 길이 어디로 이어질지는 아무도 알 수 없습니다.