TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
Anthropic 연구원이 월스트리트 AI 대표 약세론자와 격론: AI 가 너무 위험해서 분산하면 안 되는가, 아니면 너무 위험해서 집중하면 안 되는가?

Anthropic 연구원이 월스트리트 AI 대표 약세론자와 격론: AI 가 너무 위험해서 분산하면 안 되는가, 아니면 너무 위험해서 집중하면 안 되는가?

2026.08.16
공유하기
Anthropic 연구원들과 월스트리트 투자자들은 AI 가"집중 통제"되어야 하는지"권력 분산"되어야 하는지를 두고 격론을 벌였으며, 핵심 쟁점은 AI 가 위험할수록 과연 집중 관리가 더 필요한지 아니면 권력 집중을 피해야 하는지에 있다.

8 월 14 일, X 에서 발생한 한 차례 대립은 AI 업계에서 가장 핵심적인 철학적 차이를 표면화시켰습니다.

한쪽은 Sholto Douglas 로, Anthropic 의 post-training 연구원이자 강화 학습을 담당하는 기술 핵심 인물입니다. 다른 한쪽은 Gavin Baker 로, Atreides Management 의 설립자이며 수십억 달러 규모의 테크 헤지펀드를 운용하는 펀드 매니저입니다. 그는 올해 All-In Podcast 에서 AI 인프라 투자에 관한 체계적인 프레임워크를 지속적으로 제시하며 월스트리트에서 AI 를 가장 잘 이해하는 투자자 중 한 명으로 꼽힙니다.

발단은 Baker 가 All-In Podcast 에서 한 발언이었습니다. 그는 여러 신뢰할 수 있는 소식통으로부터 Anthropic 의 CEO 인 Dario Amodei 가 사내에서 Anthropic 이 결국 "세상에 남아있는 유일한 민간 기업"이 될 수 있다고 언급했다는 말을 들었다고 했습니다. Baker 의 원문은 이렇습니다. "만약 이것이 사실이라면, Dario 에게 누구에게도 이런 말을 하지 말 것을 강력히 권고합니다."

Douglas 는 X 에서 직접 반박했습니다. "완전히 거짓입니다 (Completely false). 저는 Gavin 의 견해를 좋아하지만, 그에게 이 말을 전한 사람은 거짓말을 하고 있는 것이며, 어떤 사람들이 필사적으로 믿게 하려는 내러티브를 당신에게 믿게 하려는 목적입니다."

이어 그는 덧붙여 일격을 가했습니다. "같은 사람들이 한 문장에서는 Anthropic 에 해자가 없다고 말하다가, 다음 문장에서는 그것이 위험할 정도로 강력할 수 있다고 말합니다. 이 두 판단은 동시에 성립할 수 없습니다."

Baker 는 정면으로 맞서지 않았습니다. 그는 Sholto 가 사실을 명확히 해줘서 감사하다고 답했지만, 더 큰 문제는 다음과 같다고 지적했습니다. "실리콘밸리의 많은 매우 진지한 사람들이 실제로 유사한 주장의 어떤 버전을 들었으며, 그들은 이를 믿습니다. 왜냐하면 이것이 Dario 의 공개 입장과 일치하기 때문입니다."

이 대립의 진정한 가치는 Dario 가 실제로 그 말을 했는지 여부에 있지 않습니다. 오히려 그것이 AI 가 집중되어야 하는지 분산되어야 하는지에 관한, 그리고 안전이 과연 통제를 의미하는지 경쟁을 의미하는지에 관한 더 깊은 대립을 폭발시켰다는 점에 있습니다.

Baker 의 프레임워크: AI 가 너무 위험하므로 집중해서는 안 된다

Baker 는 All-In Podcast 에서 이번 논쟁 전체에서 가장 명확한 한 마디를 남겼습니다.

"Anthropic 과 효과적 이타주의 운동에 참여한 사람들은 이 기술이 너무 위험하므로 널리 배포되어서는 안 된다고 생각합니다. 반면 주커버그, Elon, Jensen 은 이 기술이 너무 위험하므로 집중적으로 통제되어서는 안 된다고 생각합니다."

Baker 의 논리 구조는 이렇습니다. Anthropic 은 AI 가 극도로 강력하고 위험할 수 있으므로 신중한 규제와 집중적인 통제가 필요하며, 소수의 "책임 있는" 연구소가 이를 관장해야 한다고 생각합니다. 하지만 Baker 는 이런 논리가 결국 다음과 같은 결과로 이어질 것이라고 봅니다. 규제를 통해 진입 장벽을 설정하면 소수 기업이 사실상의 독점을 차지하게 되고, 오픈소스는 제한되며 경쟁은 약화됩니다. 역사는 집중된 절대 권력이 결코 좋은 결과를 낳지 않았음을 반복적으로 증명해 왔습니다.

그는 AI 를 총기 권리에 비유했습니다. 미국인에게는 총기 소지 권리가 있는데, 총기가 남용될 수 있음에도 불구하고 이 권리는 방어와 폭정에 대항하는 데 동시에 기여하기 때문입니다. Baker 는 자신에게 서비스를 제공하는 AI, 즉 자신의 가치관과 얼라인먼트된 AI 를 원한다고 말했습니다. Dario Amodei 가 생각하는 "인류에게 무엇이 최선인가"와 얼라인먼트된 AI 가 아니라요.

Baker 는 오픈소스 모델을 강력히 지지합니다. 그는 Dwarkesh Patel 의 견해를 인용하여 Anthropic 의 Claude 는 "헌법"과 얼라인먼트 시스템이 내장되어 있어 하층부 실행 논리가 Anthropic 이 옳다고 생각하는 방식에 따라 작동한다고 지적했습니다. 그는 Anthropic 사람들이 나쁜 사람이라고 생각하지는 않지만, 어떤 한 기업에게 "전 인류에게 무엇이 최선인가"를 정의하게 하는 것은 위험하다고 봅니다.

그는 심지어 반직관적인 투자 판단까지 내놨습니다. 오픈소스 모델의 부상이 반드시 프런티어 연구소의 가치를 훼손하는 것은 아니라는 것입니다. 그의 비유는 맨해튼 계획입니다. 오펜하이머와 파인만은 작업을 수행하기 위해 수천 명의 일반 과학자가 필요했고, 엘리트들은 더 많은 조달 가능한 "지적 노동력"을 갖게 됨으로써 오히려 더 가치가 높아졌습니다. 마찬가지로, 오픈소스 모델 ("150 IQ") 은 프런티어 모델 ("250 IQ") 에 의해 오케스트레이션되고 스케줄링될 수 있으며, 오픈소스는 양을, 프런티어는 가치를 담당합니다.

Douglas 의 반격: 시장이 경쟁으로 당신이 우려하는 모든 것을 해결하고 있다

Douglas 의 반박은 구체적인 가십에 얽매이지 않고 Baker 의 내러티브 논리 기반을 직접 공격했습니다.

그는 Dario Amodei 의 긴 글을 링크한 후 이렇게 썼습니다. "AI 시장은 현재 지구상에서 가장 경쟁이 치열한 시장이며, 모든 글로벌 최대 기업들이 더 똑똑하고 더 저렴한 모델을 제공하기 위해 총력을 다하고 있습니다. 모든 것이 순조롭게 진행된다면, 우리는 모든 것의 비용을 에너지 비용 수준으로 낮추는 데 성공할 것입니다. 이는 놀라운 일이지만, 많은 사람들의 기존 해자를 위협합니다. 그들은 두려워합니다."

이 말에는 풍부한 함의가 담겨 있습니다. Douglas 는 이렇게 말하는 것입니다. Baker 와 그 배후에서 "Anthropic 이 세계를 독점하려 한다"는 내러티브를 퍼뜨리는 사람들은 바로 AI 로 인해 기존 해자가 위협받는 이해관계자들입니다. 그들은 Anthropic 의 "야심"과 "규제 포획"을 과장하지만, 진정한 목적은 오픈소스를 위한 여론을 조성하거나 자신의 투자 포트폴리오에 서비스를 제공하거나, 혹은 단순히 변화에 대한 두려움 때문입니다.

Douglas 는 또한 Baker 의 논술에서 핵심적인 모순을 지적했습니다. 만약 당신이 Anthropic 에 해자가 없고 오픈소스에 의해 압도될 것이라고 생각한다면, 동시에 그것이 세계를 독점할 것이라고 우려해서는 안 됩니다. 만약 당신이 그것이 위험할 정도로 강력해질 것이라고 생각한다면, 그것이 경쟁력이 없다고 말할 수 없습니다. 이 두 판단은 상호 배타적입니다.

다른 트윗에서 Douglas 는 이렇게 썼습니다. "확실히, 만약 AGI 가 실현된다면 자본주의는 매우 이상해질 것이며, '기업'이라는 개념은 완전히 다르게 보일 수도 있습니다." 그는 AI 시대의 기업 형태에 관한 Dwarkesh Patel 의 기사를 링크하며, 이 문제가 "집중 vs 분산"이라는 단순한 이분법보다 훨씬 복잡하다는 것을 시사했습니다.

회피된 진정한 질문

Baker 와 Douglas 의 논쟁이 흥미로운 점은 두 사람 모두 명백한 논리적 오류를 범하지 않았다는 것이며, 그들의 차이는 기본 가정에서 비롯된다는 것입니다.

Baker 의 기본 가정은 이렇습니다. AI 는 무기화될 수 있을 정도로 강력하므로, 권력 집중보다 권력 분산이 더 안전합니다. 마치 민주주의가 계몽 전제주의보다 더 안전한 것처럼요. 그는 인간성에 대해 현실주의적인 태도를 취합니다. 아무리 선의가 있더라도 누구도 견제되지 않은 슈퍼 인텔리전스를 소유해서는 안 됩니다.

Douglas 의 기본 가정은 이렇습니다. AI 시장의 경쟁 강도 자체가 최고의 견제 메커니즘입니다. 시장이 이미 이를 수행하고 있기 때문에 정치적 내러티브를 통해 AI 권력을 "분산"할 필요가 없습니다. Google, Meta, xAI, OpenAI, DeepSeek, Kimi, GLM 등 세계 최대의 기업들과 가장 똑똑한 팀들이 모두 같은 방향으로 질주하고 있습니다. 이러한 경쟁 구도下에서 어떤 기업도 "세상에 유일한 민간 기업"이 될 수는 없습니다.

두 사람 모두 더 날카로운 질문을 회피했습니다. 만약 AI 가 정말 Dario 의 말대로 화이트칼라 일자리의 50% 를 사라지게 한다면, "경쟁"과 "분산"으로 충분할까요? 경쟁은 효율성을 보장하지만 공정성을 보장하지는 않습니다. 분산은 단일 장애점이 없음을 보장하지만 시스템적 위험이 발생하지 않음을 보장하지는 않습니다.

Baker 는 자신에게 "서비스를 제공하는" AI 를 원한다고 말했습니다. 하지만 만약 모든 사람이 자신을 위해 서비스하는 슈퍼 인텔리전스를 갖게 된다면 세상은 어떻게 될까요? 이는 더 이상 기술 문제가 아니며, 심지어 비즈니스 문제조차 아닙니다. 이는 정치 철학적 문제입니다.

그리고 이 문제에서 한 Anthropic 연구원과 한 헤지펀드 매니저의 차이는 인간이 AI 를 마주할 때 느끼는 가장 근본적인 불안의 분열을 정확히 반영할지도 모릅니다. 인간은 과연 너무 강력한 게이트키퍼를 더 두려워하는가, 아니면 게이트키퍼가 없는 세상을 더 두려워하는가?

이 논쟁에는 승자가 없을 것입니다. 하지만 적어도 두 가지 공포를 동시에 명확하게 만들었습니다.