이 기사는 원래 AI 관련 주간 뉴스레터인 ‘The Algorithm’에 처음 게재되었습니다. 이와 같은 소식을 가장 먼저 받으시려면 여기에서 구독해 주세요.
수주간의 격렬한 추측 끝에 앤트로픽은 IPO 투자설명서를 제출했습니다. 335쪽 분량의 이 문서는(그중 약 100쪽이 리스크에 관한 내용임) 회사가 개발 중인 기술에 대한 독특한 관점과, 그 기술이 세상을 변화시킬 것이라고 믿는 방식을 상세히 설명하고 있습니다.
하지만 앤트로픽은 수년간 스토리텔링 역량을 갈고닦아 왔습니다. 실제로, 그들의 대외 메시지는 서사적 전달의 본보기라 할 만합니다.
이달 초, 이 회사의 공동창업자이자 정책 책임자인 잭 클라크는 방콕에서 열린 IMF 회의에서 연설을 통해, 모여든 경제학자들, 은행가들, 그리고 입법자들에게 특이점은 이미 도래했다고 발표했습니다.
40여 년 전에 공상과학 작가이자 미래학자인 버너 빈지에 의해 처음 제시되었으며(그 이후로 인터넷의 좀 더 매니악한 분야에서 오랫동안 논의되어 왔음), 특이점은 기술이 그 설계자들의 능력을 훨씬 뛰어넘을 만큼 발전하는 지점을 의미한다고 여겨진다.
인간은 먼지 속에 남게 되고, 그 아이디어에 따르면, 더 이상 자신들이 과거에 만들어낸 결과물들과 경쟁할 수 없거나 심지어 이를 이해조차 할 수 없게 된다.
그리고 우리 중 많은 이들이 어릴 적부터 상상해 온 이 가상의 세계는 과연 어떤 모습일까요? 분명히 우리는 이미 그 안에 살고 있습니다. 클라크는 청중에게 이렇게 말했습니다: “저는 올해, 그 시작이 이미 이루어졌다는 설득력 있는 증거를 확보했다고 믿습니다.”
이 회사는 아직 일어나지 않은, 그러나 필연적이라고 묘사하는 미래에 대해 생생하면서도 여러 면에서 두려움을 불러일으키는 이야기를 전합니다. 이 이야기는 흔히 오래된 공상과학 소설의 클리셰에서 차용되곤 합니다. 또한 자사의 기술을 신비롭고 위험한 것으로 내세우며, 이를 다스릴 수 있을 만큼 신뢰할 수 있는 유일한 기업은 자신들뿐이라고 주장합니다. (과연 어떤 투자자가 이런 기회를 놓치고 싶겠습니까?)
다른 사례를 들어보자. 지난해, 앤트로픽의 또 다른 공동창업자인 크리스 올라흐는 바티칸에 초청되어 연설했으며, 그곳에서 교황 레오 14세를 비롯한 종교학자들과 관계자들에게 자사가 자사 기술에 대해 무엇을 배우고 있는지 설명했다. 그는 “솔직히 말씀드리면, 우리는 여전히 신비롭고 심지어 불안하게 느껴지는 것들을 계속 발견하고 있습니다”라고 말했다. “우리는 내성적 성찰의 증거를 발견합니다. 또한 기쁨, 만족, 두려움, 슬픔, 불안 등을 기능적으로 닮은 내부 상태도 확인했습니다.”
아니, 앤트로픽의 소프트웨어가 인간과 유사한 내적 경험을 갖는다는 그처럼 노골적인 주장에 대해 많은 연구자들이 비웃을 것이라는 점은 차치하더라도, 확실한 것이 거의 없을 때에는 앤트로픽(그리고 이 분야의 다른 선도 기업들)이 하는 말조차 마치 침몰하는 배의 조각들처럼 붙잡혀 버린다.
저는 이 모든 것에 대해 그들이 반드시 틀렸다고 말하는 것이 아닙니다. (그건 또 다른 날의 이야기입니다.) 하지만 앞으로 어떤 일이 닥칠지 아무도 모르는 세상에서는, 앤트로픽과 같은 기업들이 그 공백을 메우게 됩니다.
잠시 시간을 내어 질문해 볼 만합니다: 앤트로픽이란 무엇일까요? 가족 퀴즈쇼의 초보자용 질문처럼 들릴 수 있지만, 생각보다 답하기가 훨씬 어렵습니다.
지난주 워싱턴 D.C.에 본사를 둔 규제를 옹호하는 단체인 Encode AI의 최고전략책임자 네이선 캘빈이 시작한 X에서의 논쟁을 읽은 이후로, 이 문제는 내 머릿속을 떠나지 않고 있다. 캘빈은 앤트로픽이 미국 의원들에게 비밀리에 배포한 초안 법안(이후 유출됨)에서 제시한 관련 입법안에 대해 불만을 표했다.
캘빈은 앤트로픽이 선의의 존재로 비치길 원한다고 말했다. 하지만 우리는 왜 그를 신뢰해야 할까? “앤트로픽이란 무엇인가?”라고 그는 물었다.
다음은 한 가지 답변입니다: 앤트로픽은 기업공개(IPO)를 통해 기업 가치를 1조 5천억 달러 이상으로 평가받았으며, 이에 따라 클라크와 올라를 포함한 공동창업자들은 막대한 부를 얻게 되었습니다.
하지만 앤트로픽은 자신들이 그 이상의 존재라고 줄곧 주장해 왔다. 캘빈이 지적했듯이, 앤트로픽은 오히려 신뢰할 수 있고(거의) 위험이 없는 강력한 기술을 개발하는 데 주력하는 인공지능 안전 기관으로 간주될 수도 있다. 혹은 다른 누구보다 먼저 초인적인 능력을 갖춘 기술을 만들어내려는 일념에 사로잡힌 집단으로 여겨질 수도 있다—그것이 자신들이 그러한 일을 수행하기에 가장 책임감 있는 사람들이라고 믿기 때문일 수도 있고, 아니면 자신의 자만심 때문일 수도 있다.
사실, 앤트로픽은 이 모든 요소를 갖추고 있습니다. 최고경영자 다리오 아모데이는 캘빈의 게시글에 대한 답글에서 다음과 같이 말했습니다: “저희의 전략은 언제나 제가 ‘최고로 가는 경주’라고 부르는 방식이었습니다—기술을 책임감 있게 개발할 수 있음을 보여줌으로써 업계 전체의 기준을 높일 수 있습니다. 이러한 ‘최고로 가는 경주’를 이끄는 힘은, 그 실천 주체가 산업의 선두에 있을 때 훨씬 더 효과적입니다. 이는 제가 여러 차례 깨달은 교훈 중 하나입니다. 그리고 그 전략을 종합적으로 볼 때, 저희의 성과에 자부심을 느끼며 이를 변함없이 지켜오고 있습니다.”
아모데이는 모든 일을 마무리한 것처럼 말하지만, 여러 역할을 동시에 수행하는 일은 결코 쉽지 않습니다. 예를 들어, AI 안전 기관의 우선순위와 이익 중심의 초대형 기업 간에는 큰 갈등이 존재합니다. (아모데이는 자신의 글에서 자신도 실수를 저질렀음을 인정했습니다.)
궁극적으로, 앤트로픽이 스스로에게 들려주는 이야기들은 우리가 그들이 우리에게 전하는 이야기들을 이해하는 데 도움을 줘야 한다. 또한, 우리가 그 기업의 자율적 규제를 어느 정도 신뢰해야 하는지, 아니면 그들의 기준이 아니라 우리의 기준에 따라 외부 안전 검사자들에게 모델 접근 권한을 부여하도록 강제해야 하는지 판단하는 데에도 도움을 주어야 한다. 나아가, 자사의 이익만을 위한 것으로 보이는 법안이 드러났을 때, 우리가 그 기업에 대해 일단 유리한 판단을 내릴지(또는 그렇지 않을지) 결정하는 데에도 기여해야 한다.
하지만 저는 이 이야기들이 다두체의 히드라를 드러낸다고 생각합니다. 앤트로픽은 많은 사람들에게 각기 다른 모습으로 비치며, 그것이 오히려 신뢰성을 높인다고 보기는 어렵습니다. 여러 면에서 보면, 공상과학적 연출이나 미신적인 요소 없이 전통적인 기술 기업의 모습을 갖춘다면 훨씬 더 이해하기 쉬울 것입니다.