TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
뉴욕 타임스: AI 종말론에서 앤트로픽 창립까지, 다리오 아마데이의 집념과 안전 게임

뉴욕 타임스: AI 종말론에서 앤트로픽 창립까지, 다리오 아마데이의 집념과 안전 게임

2026.11.06
공유하기
Anthropic의 수장인 Dario Amodei의 신념은 AI의 잠재적 위험에 대한 깊은 경외에서 비롯된다. 프린스턴에서 OpenAI를 거쳐 독립 창업을 이루기까지, 안전은 단순한 기술적 기준선을 넘어 그의 창업 여정 전반을 관통하는 핵심 신조다.

저자: 뉴욕 타임스

번역: 지아후안, 체인캐처

2007년 어느 밤, 프린스턴 대학교에서 박사 과정을 밟고 있던 다리오 아모데이는 방문한 친구를 맞이했다. 그는 막 방금 2005년에 출간된 컴퓨터 과학자 레이 커즈와일의 저서 《특수점의 임박》을 끝냈고, 책의 주장을 친구와 공유하기 위해 조바심을 냈다.

커즈와일은 책에서 인공지능이 결국 인간 뇌를 초월하고 ‘특수점’이라는 시점이 도래할 것이라고 예측했다. 다리오는 손가락으로 머리카락을 돌리며 친구 콜린 헤크먼에게 이 시기가 그들의 평생 내에 올지도 모른다고 전했다.

“그는 완전히 빠져들었다.” 다리오와 같은 샌프란시스코 고등학교를 다녔던 헤크먼이 말했다. “그는 AI가 올바른 방식으로 개발되어야 한다고 말했다. 그렇지 않으면 우리가 망한다며.”

당시 24세였던 다리오는 아직 물리학 박사과정 학생으로, 정보를 폭넓게 흡수하던 시기였다.그는 《속도의 미래》(Accelerating Future)와 《편견을 넘어서》(Overcoming Bias) 등 비교적 소규모 블로그에 흠뻑 빠졌으며, 블로거들은 그곳에서 AI가 인류를 파멸시킬 수 있는 가능성에 대해 논의하고 있었다.

그는 GiveWell의 온라인 포럼도 철저히 파고들었다. GiveWell은 자선 기부의 효과를 극대화하는 것을 목표로 하는 단체로, 지성인들은 포럼에서 자선 활동을 위해 최대한의 수익을 올리거나 영향을 확장하는 방법을 놓고 토론을 펼쳤다.

다리오의 동문, 친구, 스승, 동료 등 20여 명을 인터뷰했다. 이들의 증언은 이러한 서적, 블로그, 온라인 커뮤니티가 오늘날까지 그를 여전히 영향력 있게 작용하며, 43세 Anthropic CEO가 AI를 어떻게 인식하고 있는지 이해하는 단서가 된다는 점을 보여준다. Anthropic은 이번 달 공개 상장을予定하고 있으며, 이는 전 세계 최대 규모 IPO 중 하나가 될 전망이다.

친구들과 동료들에 따르면, 다리오 세계관의 핵심에는 서로 얽힌 두 가지 사상이 자리 잡고 있다. 이 둘 모두 수학 추론이 인류의 미래를 바꿀 수 있다는 확신을 가지고 있다.

하나는 '합리주의'로, 차갑고 이성적인 방식으로 세상을 바라보는 것을 강조한다. 스스로 배운 AI연구員인 엘리저 야드콥스키 등이 이 사상을 신봉하며, AI가 충분히 강력해져 결국 사회를 파괴할 가능성이 있다고 믿는다.

다른 하나는 합리주의와 함께 발전한 '유효이타주의'로, 정밀한 수학적 계산을 통해 사회적 후생을 극대화하려는 시도이다.

친구들과 동료들은 다리오에게 이 두 흐름이 하나의 확신으로 융합했다고 말한다. 그것은 'AI는 극도로 위험할 수 있으며, 이 기술을 개발하는 것은 오직 다리오와 뜻을 같이하는 기술 전문가들에게만 맡겨질 자격이 있다'는 것이다. 이는 그가 인간 안전을 신경 쓰지 않는 이들보다 앞서 AI를 창조해야 한다는 추진력이 되었고, 동시에 이 기술을 통제하겠다는 그의 욕구를 자극했다.

다리오는 9월 발표된 AI 개발 속도를 늦추자는 내용의 글에서 다음과 같이 썼다. "이 기술을 올바른 방식으로 구축할 때만 우리는 그 혜택을 얻을 수 있다. 우리가 확보한 시간을 올바르게 활용한다면, 각별히 신중한 태도로 일을 제대로 해낼 가치는 있다."

이러한 사상들이 Anthropic의 토대가 되었다. 2021년, 다리오는 여동생 다니엘라 아모데이 및 기타 5명과 함께 이 회사를 공동 설립했다. 그들은 모두 합리주의와 유효이타주의 커뮤니티와 접점을 가져본 바 있다. 회사가 성장함에 따라 그들의 관점은 점차 더 큰 주목을 받게 되었으며, 다리오는 항상 공개적이고 헌신적으로 이러한 관점을 홍보해 왔다.

사진: Anthropic 공동 설립자 다니엘라 아모데이, 2023년 샌프란시스코 사무실 촬영

다리오는 지정정치 이슈 논의에도 관여했다. 그는 중국의 AI 분야에서 경쟁력을 약화시키기 위해 미국이 중국への 칩 수출을 제한해야 한다고 지적했다. 그는 AI 기술이 통제 불능 상태로 치닫는 것을 막기 위한 규제를 촉구했다. 미국 국방부와 갈등을 빚은 과정에서도 그는 AI가 미국인에 대한 대규모 감시에 사용되어서는 안 되며, 자율 무기로 채택되어서는 안 된다고 명시했다.

"그는 정말로 우리가 심각한 생존 위기에 직면해 있다고 생각한다." 네이던 어비가 말했다. 어비는 다리오와 함께 고등학교 크로스컨트리 경기에 참가했으며, 오랜 시간 동안 깊숙한 대화를 나눴으나 최근에는 다소 멀어진 사이가 되었다. "그는 자신에게 이에 대응할 수 있는 위치에 있어야 한다고 느꼈다."

다리오는 억만 장자로, Anthropic의 공개상장과 함께 그의 재산은 더욱 늘어날 것으로 예상된다. 그는 회사 대리를 통해 이번 인터뷰를 거절했다.

그의 생각은 특히 일부 AI 보안 분야 종사자들로부터 지지자를 얻었다. 이들은 다리오가 책임감 있는 방식으로 AI를 개발하고 있다고 평가한다.

하지만 이는 실리콘밸리와 워싱턴에서 적을 만들기도 했다. 비판자로는 메타의 마크주커버그와 엔비디아의 젠슨황(황런슝)이 있다. 그들은 그를 '종말론자'라고 비난하며 AI 분야의 권력을 자신들 중심으로 집중시키려 한다고 공격했다. 9월, 미국 국방부는 SNS에 "유효이타주의가 아니라 미국 중심이어야 한다"는 성명을 게시했다.

다리오는 자신의 생각이 일부를 자극했다는 것을 의식했고, 따라서 합리주의 및 유효이타주의와 자신의 신념을 선공개적으로 구분하려는 시도를 했다. 2023년, 그는 뉴욕타임스의 팟캐스트 《하드 포크》에서 자신이 유효이타주의자가 아니라고 밝혔다.

"그의 몇몇 아이디어에는 동의한다"라고 그는 말했지만, '사람들을 다른 부족으로 분리하는 것'에는 반대한다고 덧붙였다.

"다리오는 좀 편안하게!"

다리오와 여동생 다니엘라는 샌프란시스코의 미션 디스트릭트에서 자랐다. 아버지 리카르도 아모데이는 가죽 장인이었고, 어머니 엘레나 엔진겔은 공공도서관 복원 사업을 담당했다. 이혼 서류에 따르면 둘은 1991년 별거했다.

로턴 대안학교 8학년 때 다리오는 이미 눈에 띄는 활약을 보였다. 1997년 그는 한 동학과 함께 ‘향후 가장 성공할 가능성이 높은 인물’로 뽑혔고, 졸업 앨범 사진에서 둘은 지폐를 들고 있었다.

샌프란시스코 정상급 공립고 로웰 고등학교 재학 시절, 다리오는 목마르도록 공부했고 UC버클리 대학 수업에도 수강했다. 친구들은 그가 공리주의 등의 사상을 묵념했다고 말한다. 공리주의는 가능하면 많은 생명을 위해 최고의 행복을 만들어야 한다는 원칙이다. 또한 그는 밀레니엄 버그 문제(당시 일부 컴퓨터 프로그램은 연도를 두 자리로만 기록했기 때문에 2000년 이후 ‘00’을 1900년으로 오인하여 글로벌 컴퓨터 시스템이 마비될 수 있다는 우려)에 대한 걱정도 내비쳤다.

당시 로웰고 물리교사 리샤드 샤피로는 다리오가 종종 시험 성적이 기대만큼 나오지 않았다고 생각했다고 말했다.

"내가 그에게 소리지른 적이 있다. '다리였, 좀 편하게!'라고." 샤피ونس記憶한다.

2001년 다리오는 패서디나의 캘리포니아 공과대학교에 입학했으나 자주 샌프란시스코를 드나들며 친구와 가족을 만났다. 어느 날 귀향 중 어비와 헤크먼과 함께 초밥집에 들렀고 세 사람은 공리주의에 대해 이야기했다. 다리오는 채식인이었지만 게는 척추동물이 아닌 무척추동물이기 때문에 먹어도 괜찮다고 봤다.

식사 중 헤크먼은 사상실험을 제시했다. 만약 한 사람이 계속 닭을 죽인다면, 더 많은 닭이 죽는 것을 막기 위해 어떤 상황에서 해당 인물을 살해하는 것이 정당화될 수 있는가?

어비의 기억에 따르면 다리오는 가볍게 웃으며 "공리주의 관점에서 볼 때, 닭의 개수가 특정 수준에 달하면 그들의 삶이 개인의 삶보다 더 중요해질 수 있다"고 답했다.

친구들은 다리오가 무신론자라고 밝힌 적은 있지만 굳건한 신념을 지녔다고 회상했다. 2003년 그는 어비와 다른 이를 태우고 차로 샌프란시스코로 이동해 미국의 이라크 침공 반대 시위대에 합류했다.

이듬해 다리오는 실리콘밸리 중앙에 자리한 스탠포드 대학교로 편입했다. 이번 전학은 여동생과의 거리도 줄여주었는데, 이때 다니엘라는 근처에서 고등학교에 다니고 있었다.

2023년 어느 팟캐스트에서 여동생에 대해 언급하며 "우리는 늘 함께 세계를 구하려 했단다"라고 말했다.

시간과 생명에 대한 성찰

2006년 스탠포드대 졸업 후 다리오는 프린스턴대로 가서 물리학 박사학위를 취득했으며, 최종적으로는 물리학을 생물학 및 계산 신경과학에 적용하는 연구에 집중했다. 이 해, 그는 C형 간염 환자 아버지를 잃었다.

다리오는 망막세포 연구에 온전히 매진했으며, 과학 발전 속도를 높일 수 있는 기술 개발에 흥미를 느끼기 시작했다.

다리오와 교제했으며 과학 토론 동아리를 공동 설립한 제이드왕은 "우리 둘은 종종 이런 문제를 논의했다. 한 질환 연구에 평생을 바친 과학자가 대신 전체 분야를 위해 기술이나 방법론을 개발하면 더 큰 영향을 미칠 수 있을까?"라고 말했다.

그녀는 다리오가 자신의 아버지를 떠올렸다고 전했다. 대부분의 C형 간염 환자를 치료할 수 있는 제가 선보이기 전에 아버지가 타계했기 때문이다.

사진: 《특수점의 임박》 저자 레이 커즈와일

당시 다리오는 이미 커즈와일과 합리주의의 수령 야드콥스키의 저작에 동조하기 시작했다. 그는 특히 커즈와일의 주안에 특별한 관심을 보였는데, 첨단기술이 인간의 자연적 한계를 극복하도록 도울 가능성이 있다는 점이었다. 이러한 사상은 '초인주의'로 불렸다.

2007년 헤크먼이 프린스턴을 방문했을 때 다리오는 특수점이 2040년까지 도래할 것이며, 언젠가는 인간과 기계의 사고가 융합될 것이라고 그에게 전했다.

헤크먼의 기억에 따르면 다리오는 당시 "시간이 흐르면 우리는 새로운 슈퍼 AI가 되거나, 인간과 AI의 혼성체가 될 것이다"라고 말했다.

다리오는 이러한 사상에 푹 빠져 친구들과 여동생에게 야드콥스키가 이끄는 특수점 연구소의 연례 회의 참석을 권유했다. 해당 조직은 현재 이름이 기계 지능 연구소로 바뀌었다.

NYT가 입수한 2008년 이메일 중 하나에서 다리오는 친구에게 야드콥스키는 "내가 만난 인물 중 사상적으로 가장 심오한 사람 중 한 명"이자 "구체적으로 인류 친화적인 특수점 실현을 위해 노력하고 있다"고 평가했다.

야드콥스키는 NYT에 보낸 이메일에서 다리오가 "현재로서는 나의 조언을 구하거나 수용하지 않으며, 과거에도 그렇게 한 기억이 없다"고 밝혔다.

사진: 독학한 AI 연구원 엘리저 야드콥스키

대략 비슷한 시기 다리오는 로켓 기업 SpaceX의 창업자 일론 머스크와도 서신을 교환했다. 두 사람의 연락 상황을 알고 있는 관계자에 따르면 다리오는 테크 거물에 깊은 존경을 표했으며, 자기 회사에 입사하는 것도 잠시 고려했으나 결국 스페이스X에는 합류하지 않았다.

2008년, 다리오는 경제학자 타이러 카우엔의 블로그를 읽으면서 GiveWell을 알게 되었다. 카우엔은 블로그에서 이 기구가 자선단체에 대한 '흥미로운 제안'을 제시했다고 전했다.

다리오는 GiveWell의 메일링 리스트와 포럼에서 활발히 활동하며 유효이타주의 방식으로 자선 및 과학 작업을 진행하는 방법을 모색했다. NYT가 살펴본 한 통의 이메일에 따르면 2010년 그는 "금융업계로 옮겨 더 많은 금액을 기부할 수 있도록 검토 중이다"라고 기록했다.

동년 다리오는 GiveWell의 블로그 기고문에서 1만 달러를 기부하기로 결정한 내역을 다루었다. 그는 성인 결핵 예방에 중점을 둔 '결핵 퇴치 파트너십'과 아프리카 마을 아동 예방접종을 돕는 비영리단체 바빌리지리치 중 한 곳을 선택하고자 했다.

다리오는 “결핵 퇴치 파트너십”이 “비용 효율성” 측면에서 더 낫다고 기재했는데, 해당 기관이 성인을 대상으로 하기 때문이다. “성인은 유아보다 더 깊고 의미 있는 체험을 한다”는 점이다. 그는 덧붙여 “성인의 사망이 유아의 사망보다 두세 배 더 무겁다고 생각한다”고 밝혔다.

하지만 두 기관의 프로젝트 집행 방식을 면밀히 비교한 끝에 다리오는 결국 마음을 바꿔 바빌리지리치의 작업이 더 효과적이라고 결론내렸다.

2011년 그는 스탠포드 대학교에서 포닥(postdoc)을 하며 암 세포를 연구하기 시작했다. 친구들에 따르면 개인 생활에서도 노화 지연제를 복용해보고 철저한 수영 프로그램을 고수하며 칼로리 섭취량 감소에 관심이 많았다고 한다. 일부 연구에 따르면 칼로리 섭취를 줄이면 실험실 쥐의 수명이 늘어날 수 있다.

"그는 종종 시간의 한계성을 논했고, 시간이 유일무이하고 재생 불가능한 자원이라고 강조했다." 어비가 말했다. 그는 다리오가 "시간을 거의 가혹할 정도로 중시한다"고 덧붙였다.

그를 알아보는 두 관계자는 2014년 다리오가 고환암 진단을 받아 이러한 인식이 더 깊어졌다고 전했다. 그는 화학요법을 받았으며 결국 완치되었다.

그 무렵 그는 GiveWell 창립자 중 한 명인 홀든 카놉스키와 가까워졌다. GiveWell은 페이스북 공동설립자 더스틴 모스코비츠와 아내 카리 투나의 자선기관 굿 벤처스와 제휴를 시작했으며, 후자는 유효이타주의 관련 사업에 자금을 지원한다.

다리오는 양측 협력 프로젝트 GiveWell Labs에 생명과학 분야 자금지원 관련 제안을 내놓기 시작했다.

사진: GiveWell 공동 설립자 홀든 카놉스키(오른쪽), 2012년 촬영

당시 카놉스키는 다니엘라와 교제 중이었다. 두 사람은 샌프란시스코의 공동주택으로 이사했으며, 이후 다리오, 이론물리학자 자렛 카플란, 그리고 대학 중퇴자 크리스토퍼 올라가 함께 거주했다. 다리오는 올라에게 수학 지도를 해주었다.

이 주거지를 방문했던 세 명의 관계자에 따르면 룸메이트들은 야드콥스키의 글을 논의하며 합리주의와 유효이타주의를 탐구했다. 그들은 또한 네바다 사막에서 열리는 연례 반문화 축제 '베이커 페어'에 참여하기도 했으며, 동물복장을 입는 경우도 있었다.

카플란과 올라는 이후 아모데이 형제자매와 함께 Anthropic을 공동 설립했다. 2025년, 카놉스키도 이 회사에 합류했다.

바이두, 구글에서 OpenAI까지

2010년대 초반 머신러닝 성과가 이루어지면서 테크 기업들은 다시금 AI 투자 확대에 나섰다. 머신러닝을 통해 컴퓨팅기는 데이터를 분석해 과제 해결 능력을 학습한다.

중국 인터넷 빅테크 바이두도 이 흐름에 적극 뛰어들었다. 캘리포니아주 서니베일에 연구소를 오픈하고, 구글에서 AI 선구자 앤디 웡을 최고과학자로 영입했다.

2014년 다리오가 바이두에 입사하자마자 사무실에서 밤샘 작업을 하고 솔직함 있게 의견을 펼치는 모습으로 빠르게 이름을 알렸다.

사진: AI 선구자 앤디 웡, 바이두와 구글 AI 팀 총괄 역임

바이두에서 다리오와 함께 근무했던 연구원 그레고리 다이오스는 "다리오는 기회가 되는 대로 거의 항상 매우 치열하게議論했다"고 말했다.

이번 AI 발전의 초기 단계였음에도 다리오는 이미 해당 기술의 잠재적 위험성에 대해 우려를 표시했다. 다이오스의 회상에 따르면 2015년 다리오는 동료들에게 AI가 머리가 능력에 근접하거나 뛰어넘을 수 있어, 개발 측은 기술이 통제불능 상태에 빠질 가능성을 외면해서는 안 된다고 전했다.

같은 해 다리오는 구글 AI 연구소 구글 브레인으로 이직하여 AI 안전 분야에서 활동했다. 그는 룸메이트인 올라를 비롯해 다른 다섯 명의 연구원과 함께 2016년 ‘인공지능 안전의 구체적 문제들’ 논문을 발표했으며, 개발방식이 적절하지 않을 경우 발생할 수 있는 AI의 이상 현상에 대해 서술했다.

2016년 다리오는 비영리조직 OpenAI의 새 AI 프로젝트에 합류했다. 그는 OpenAI의 안전 부서와 별도 ‘규모 법칙(Scale Law)’ 연구팀을 주도했다. 규모 법칙은 모델 규모, 학습 데이터량, 연산자원이 증가함에 따라 AI 모델 성능이 함께 향상될 수 있다는 법칙을 말한다.

OpenAI에서의 하루: 이념, 권력, 그리고 분열

다리오와 함께 일했던 7명의 관계자는 OpenAI 재직 중 그의 AI 개발 방식에 대한 신념이 더 강화되었음을 꼽았다. 그는 AI의 힘과 잠재적 위험성을 빈번히 거론했으며, 자신의 관점을 기술 개발 프로세스에 적극 반영하고자 움직였다.

예를 들어 2016년 11월, 도널드 트럼프의 대통령 당선 3일째 다리오는 OpenAI 내부 메시징 앱에 "미국이 권위주의로 흘러가고 있는 점이 걱정스럽다"고 남겼다.

NYT가 확인한 메시지에 따르면 그는 "권위주의 국가에서 강력한 군사 용도의 기술을 연구하는 것은 결코 마음 편히 받아들일 수 없다"고 밝혔다.

내부 자료에 따르면 다리오는 또 트럼프 캠페인에 125만 달러를 기부한 투자자 피터 틸이 "도덕적 비난을 받을 만하다"며 OpenAI는 그의 자금을 다시는 받지 말아야 한다고 기록했다. (틸이 세운 벤처캐피탈 파운더스 펀드는 나중에 애트론크에 투자했다.)

다리오는 자신의 관점을 공유하는 후원자와의 파트너십을 성사하는 역할도 했다. 이 계약을 잘 아는 세 관계자는 2017년 다리오가 OpenAI를 카놉스키가 운영하는 자선단체와 연결해 주는 역할을 맡았으며, 본인은 해당 기관의 기술고문으로도 일했다고 전했다.

카놉스키의 기관은 현재 코에프시언트 기빙이라는 명칭으로 변화했으며, OpenAI에 3000만 달러를 기부했다. 카놉스키는 OpenAI 이사회에 진출하기도 했다.

사진: 홀든 카놉스키와 다니엘라 아모데이 결혼식 현장 사진

같은 해 말 카놉스키와 다니엘라는 결혼식을 올렸다. 두 사람의 웨딩 사이트 안내문에 따르면賓客들은 플러시 완구를 선물받았으며, 서로 다른 캐릭터 간의 '가장 로맨틱한 궁합'을 짝지어 준 손님에게는 특별상이 지급됐다.

다리오는 팬더 머리 가면을 쓰고 결혼식에 참석했으며, 파티 dress 코드는 '재미있는 정장'이었다. NYT가 입수한 한 사진 속에서 그는 해당 복장에 장수룩 가면을 쓴 올라와 당시 교제중이었던 카미 클락과 함께 모습이 담겼다. 그는 클락과 2022년에 결혼했다.

2018년 다니엘라가 OpenAI에 합류해最終로 안전 및 정책 부사장으로 승진했다. 일부 사내 구성원은 이 형제자매의 확산되는 영향력을 두고 금방 의문을 제기하기 시작했다.

사진: 2017년 OpenAI 재직 중인 다리오와 2019년 OpenAI 재직 중인 다니엘라

관련 협의 정황을 잘 아는 세 관계자는 같은 해 12월, OpenAI 연구원 조슈아 아힘이 CEO 샘 알트만에 "회사 수석 윤리책임자에게 다리오를 임명하는 것은 바람직하지 않다"고 건넸다고 밝혔다. 아힘은 아모데이 형제의 권력 확대를 지적하며 AI 감독은 서로 다른 관점을 지닌 사람들이 함께 맡아야 한다며 강조했다.

아힘이 외부 전문가를 수석윤리책임자로 임명해야 한다고 주장하자 다리오는 그에 정면으로 맞섰다. 소식통에 따르면 다리오는 목소리를 높이며 자신보다 적합한 사람이 없다고 밝혔다.

2018년 아모데이 형제는 ‘GPT’라는 이름의 프로젝트 운영권을 인수했다. GPT는 생성형 사전학습 트랜스포머의 줄임말이다.

동사에서 근무한 6명의 관계자는 이들이 인간의 지시를 통해 AI가 과제를 수행하도록 학습하게 하려는 안전 기술을 탐구했다고 설명했다.

이 방식은 이후 다리오의 커리어에서 뚜렷한 특징으로 자리잡았다. AI를 잠재적 위험 영역에 더 가깝게 노출시킨 다음, 안전 기술로 이를 검증하는 것이다.

OpenAI 대표이사 그렉 브로크먼이 GPT 프로젝트 관여를 희망했으나 아모데이 형제의 저지를 받았다. 회사 상황에 정통한 두 관계자에 따르면 다리오는 수차례 알트만에 브로크먼이 해당 업무에서 손을 떼지 않으면 스스로 물러나겠다고 경고했다.

알트만의 입장을 잘 아는 한 관계자는 알트만이 이러한 최후통첩을 지나치게 과도하게 여기며 형제들의 요구를 기각했다고 전했다.

2020년 12월 아모데이 형제와 기타 동료들은 OpenAI를 떠났다. 4주 뒤 그들은 Anthropic을 창립했다.

사진: 올해 5월 Anthropic 개발자 대회에서 아모데이 형제와 수석 제품책임자 아미 보라가 함께 출연한 모습