케빈 루스는 AGI에 사로잡혔다. 당신은 왜 그렇지 않은가?

오늘 저는 저널리스트이자 신간 『AGI 연대기』의 저자인 케빈 루스와 이야기를 나눕니다. 이 책은 최근 AI 산업의 급격하고 폭발적인 변화를 상세히 담고 있습니다.

케빈은 오랜 기간 뉴욕타임스의 기자이자 인기 팟캐스트 ‘하드 포크’의 진행자였지만, 그와 이 프로그램의 친구인 케이시 뉴턴은 최근 타임스를 떠나 지난주에 새롭게 시작된 기술 팟캐스트 ‘머신 고즈’를 론칭했습니다.

케빈과 저는 머신 갓스의 출시와 뉴욕 타임스에서 독립 크리에이터로 전환하는 과정이 어떤지에 대해 이야기했습니다. 그리고 물론, 인공 일반 지능을 구축하기 위해 경쟁하는 기업들에 대한 탁월한 취재를 담은 그 책에 대해서도 이야기했습니다.

케빈에게 이 사건을 보도하는 것이 어떤 느낌이었는지, 이 인물들과 당시의 시대적 상황을 어떻게 이해해야 하는지, 그리고 앞으로 모든 것이 어떻게 전개될지에 대해 들어보고자 했습니다. 미리 말씀드리자면, 이 대화는 마지막에 다소 철학적인 방향으로 전환되지만, 여러분께서는 이를 통해 매우 가치 있는 의견 교환을 경험하실 수 있을 것이라고 생각합니다.

좋습니다: 케빈 루스가 ‘AGI 연대기’에서 기계 신들에 대해 이야기하고, AI의 앞으로의 방향을 살펴봅니다. 이제 시작하겠습니다.

이 인터뷰는 분량과 명확성을 위해 약간 편집되었습니다.

케빈 루스, 당신은 ‘AGI 연대기’의 저자이자 새로운 팟캐스트 ‘머신 갓스’의 공동 설립자이자 공동 진행자입니다. 디코더에 오신 것을 환영합니다.

저를 초대해 주셔서 정말 감사드립니다.

저는 머신 갓츠의 첫 번째 에피소드를 듣고 있었는데, 당신과 케이시가 실제로는 당신이 CEO라는 직함을 갖고 있다는 점에 대해 논의하셨습니다.

사실입니다. 동전 던지기에서 제가 이겼고, 우리에게는 누군가가 필요했거든요. 저희처럼 회사를 시작할 때는, 첫 번째 스캔들이 언젠가 터질 테니 의회에 출석시킬 인물을 정해둬야 한다는 이유로 최고경영자(CEO)로 누구를 기재해야 하죠. 그래서 그 역할은 저에게 돌아갔습니다.

재미있는 건 당신이 디코더의 CEO라는 점이에요. 그러니까 제가 당신에게 디코더 관련 질문들을 해야 할 것 같네요.

[웃음] 좋아요. 글쎄요, 제가 CEO가 된 지 이제 겨우 5분 정도밖에 되지 않았는데, 사실 대부분의 날은 제가 CEO라는 사실조차 잊고 지냅니다.

솔직히 말하면, 그건 이 프로그램에 출연한 대부분의 CEO들과도 일치합니다. 모두들 마치 단 5분 동안만 해본 것처럼 행동하죠. 곧 다루게 될 겁니다.

저는 당신의 책에 대해 이야기하고 싶습니다. 그 책의 제목은 ‘AGI 연대기’입니다. 이 책은 AI가 전면에 부상하고 여러 면에서 훨씬 더 상업적인 제품으로 자리매김하면서, 주요 선도 연구소들과 그들이 겪어온 문화적 변화를 매우 세밀하게 보도한 작품입니다.

하지만 우선 ‘머신 갓스’부터 시작해볼게요. 당신은 오랫동안 뉴욕타임스의 기자로 활동해 왔죠. 물론 청중분들도 잘 아시겠지만, 저와 당신은 오래전부터 알고 지내왔어요. 제가 알기로는, 당신이 유튜버가 되고자 하는 열망이 늘 마음속에 자리해 왔던 것 같아요. 당신은 늘 “어떻게 그쪽으로 가야 할까?”라고 물어왔고, 저는 항상 “그건 하지 말고 도망쳐”라고 말해 왔죠. 그런데 결국 당신은 그렇게 했네요.

당신은 더 타임스를 떠나, 우리 친구 케이시 뉴턴과 함께 자신만의 팟캐스트를 시작했습니다. 이는 매우 인기 있었던 팟캐스트 ‘하드 포크’의 차세대 버전으로, 그 전작도 훌륭했죠. 정말 기대되는데, 그럼 무엇이 당신에게 그런 도전을 하게 만들었나요?

Verge 구독자 여러분, 팟캐스트를 어디서 듣든 광고 없는 Decoder에 독점적으로 접근하실 수 있다는 점을 잊지 마세요. 여기로 이동하세요. 아직 구독자가 아니신가요? 여기에서 가입하실 수 있습니다.

그래요, 제가 스스로를 설득하려고 노력해 온 기간만큼이나 당신도 저를 설득하려고 해 왔지만, 결국 성공하지 못했죠. 왜냐하면 지금 여기에 제가 있으니까요.

네, 저는 실패했습니다. 완전히 실패했습니다.

아니요, 그러니까 제 생각에는 아주 타당한 이유들 때문에 미디어 기업들은 오랫동안 유튜브나 다른 어떤 동영상 플랫폼에도 전면적으로 뛰어드는 것을 다소 경계해 왔습니다. 그중에서도 전면적으로 투자한 기업들조차도 그 과정에서 좋은 인상을 받지 못한 경우가 많았는데, 그 이유는 여러 가지 요인이 있기 때문입니다—

네, 그들은 빈번히 영상 콘텐츠로 전환하고, 심지어 죽음에 관한 내용까지 다루곤 합니다.

네, 비디오로 방향을 전환하지 않으면 스스로 비용을 회수하지 못하는 일들을 하느라 많은 돈을 낭비하게 됩니다. 따라서 그에는 몇 가지 구조적인 경제적 이유가 있다고 생각하지만, 동시에 장기적인 투자를 할 수 있는 역량을 갖춘 기관이 많지 않다는 점도 한몫한다고 봅니다.

아시다시피, 저는 수년간 미디어에서의 유튜브 필링 현상을 해결하려고 노력해 왔습니다. 당신은 당신 쪽에서 그 유튜브 필링을 해소하려고 애쓰고 계시지만, 저는 지금 이 시점에서 이것이 분명히 세계에서 가장 중요한 미디어 플랫폼이라고 생각합니다. 이곳은 전통적으로 저널리즘이 중심적인 역할을 해오지 못했던 곳이기도 합니다.

YouTube 전체를 살펴보고, 당신이나 내가 고급 저널리즘으로 간주하는 콘텐츠가 어느 부분에 해당하는지 평가하려 한다면, 그 비중은 전체 생태계에서 극히 미미한 수준에 불과합니다.

그래서 제 임무의 일부는 바로 그 문제를 해결하고, 경제적 측면과 창의적 관점에서 모두 지속 가능한 방식으로 유튜브와 영상 제작을 어떻게 해야 하는지 파악하는 것입니다. 그리고 나서 여러 가지를 실험해 보고 다양한 시도를 해 보는 것이죠.

이건 유튜브에 올릴 만한 얼굴이 아닙니다. 그래서 다른 사람들도 함께 참여시켜 다양한 포맷을 정착시키고 싶습니다. 하지만 저는 더 버지가 그 분야에서 해낸 사례를 살펴보고, 조애나 스턴이나 MKBHD 같은 이들이 한 일들도 참고합니다. 저에게는 그 부분이 매우 흥미로운 영역이며, 텍스트나 팟캐스트에 비해 경쟁이 훨씬 덜한 공간입니다.

Machine Gods는 NPR과 협력해 진행하는 팟캐스트로, 이에 대해 이야기하고자 합니다. 그런데 이를 유튜브의 제품으로 보시나요?

우리는 비디오를 최우선으로 삼고자 합니다. 이는 곧, 우리가 그동안 늘 해오던 것보다 훨씬 더 시각적 경험을 중요하게 여긴다는 뜻입니다. 우리는 사람들이 듣는 것만큼이나 보고 싶어 하는 이유를 다양하게 제공하려고 합니다.

분명히, 비디오 팟캐스트를 선호하지 않는 분들도 있다는 점을 우리는 잘 알고 있습니다. 따라서 오디오 청취자들에게도 즐길 수 있는 콘텐츠를 제공하고자 합니다. 하지만 이것이 앞으로의 방향입니다. 이제는 팟캐스트를 만들면서도 반드시 영상을 함께 제공해야 합니다. 그래서 우리는 이를 적극적으로 수용하고, 중년의 기자 두 명이 유튜브에서 만들어낼 수 있는 만큼 훌륭한 버전을 만들어내려고 합니다.

정말로 미디어의 미래는 중년 기자들이 유튜브로 전환하는 모습입니다. 저도 같은 생각입니다. 이제 더 많은 영상을 제작하고 있고, 그것이 우리가 하고 있는 일입니다. 앞으로 정말 좋을 거예요.

이 일을 하고 떠나는 또 다른 이유는—물론 사람들은 제가 케이시와도 친분이 있고, 그와 함께 이 문제에 대해 오랫동안 이야기해 왔다는 사실을 알고 있습니다—바로 AI 시대가 이미 도래했기 때문입니다. 플랫폼의 전환이 일어나고 있으며, 세상에는 새로운 기업들, 새로운 주체들, 그리고 새롭게 논의될 아이디어들이 등장하고 있습니다. 재미있는 점은, 이러한 맥락에서는 대개 미디어의 변화도 함께 나타난다는 것입니다. 우리가 이야기를 전하는 방식이나 스토리텔링의 형식은 보통 우리가 다루는 주제나 기술의 발전과 함께 변화해 왔습니다.

여기서 유튜브는 현존하는 미디어 플랫폼 중 가장 견고한 기반으로 느껴집니다. 비록 변화를 거듭하고 유튜브 쇼츠가 등장했으며 이제는 자신의 얼굴까지 포함해 모든 것을 A/B 테스트할 수 있게 되었지만, 그럼에도 불구하고 가장 큰 변화 없이 가장 오랜 시간 동안 유지되어 온 플랫폼입니다. 반면 인스타그램은 상당히 큰 변화를 겪어 왔으며, 앞으로도 이러한 변화가 계속될 것으로 보입니다.

이 새로운 이야기들을 전하려고 할 때, 유튜브가 가장 안정적으로 구축할 수 있는 곳처럼 느껴지나요?

그렇습니다. 물론 모든 계란을 한 바구니에 담아두고 싶지는 않을 테니까요. 그래서 저희는 애플 팟캐스트와 스포티파이에서도 영상을 배포하고 있으며, 앞으로도 다양한 플랫폼에서 만나보실 수 있을 것입니다. 하지만 네, 현재로서는 비교적 안정적인 느낌입니다.

제가 늘 궁금해하는 질문은, 유튜브를 대체하려면 과연 무엇이 필요할까 하는 것입니다. 많은 기업들이 유튜브를 대체하려고 시도해 왔지만, 그러기 위해서는 크리에이터와 이용자 모두에게 더 나은 경험을 제공해야 할 뿐만 아니라, 인류가 생산한 모든 시각 자료까지도 그대로 재현해야 합니다. 예를 들어, 배관공들이 각각의 싱크대 고장마다 어떻게 수리하는지 담은 영상 600만 개를 모두 확보한 뒤, 이를 플랫폼에 올려야 하는 셈이죠. 이는 결코 쉽지 않은 일입니다. 유튜브는 이미 수많은 사람들에게 깊이 자리 잡아 왔고, 앞으로도 계속 성장할 것이라고 생각합니다.

AI에 대해 이야기할 때 다시 다루겠지만, 오래전에 저는 구글의 최고경영자 순다르 피차이에게 이렇게 물었습니다. “만약 더 이상 웹사이트가 없다면, 그때는 어떻게 하실 건가요?” 그러자 그는 대충 이런 식으로 답했죠. “음, 저희에겐 유튜브가 있잖아요.” 그리고 이 말에는 딱히 반박할 수 없죠. 정말 그렇습니다. 그리고 유튜브는 계속 성장할 것입니다.

뉴욕타임스에서 소위 크리에이터 경제로 전환하면서 가장 놀라웠던 점은 무엇이었나요?

음, 저희는 이제 막 시작한 단계라서 아직은 잘 모르겠지만, 지금까지 느낀 점 중 가장 놀라운 건 비즈니스 관련 일들을 정말 좋아한다는 사실입니다. 저널리즘에서는 늘 자신의 영역에 머물라고 배우잖아요. 저는 그동안 한 번도 사업을 운영해 본 적이 없었거든요. 케이시는 사업을 해 왔고, 그가 이를 즐긴다는 걸 알고 있었죠. 하지만 저에게는 이런 부분들이 처음이라 모든 것이 다 즐겁지는 않습니다. 명예훼손 보험의 보험료 견적을 협상하는 일 같은 건 제가 굳이 나서고 싶은 일이 아니에요. 다만 실제로 사업을 운영해 보니, ‘창업자’라는 역할에는 분명히 어떤 매력이 있는 것 같기도 합니다.

네, 지금이 좋은 시기입니다. 재미있게도, 당신과 케이시, 그리고 얼마 전에 나와서 자신만의 일을 시작한 조안나와 이야기를 나누다 보면 이런 얘기가 자주 나오더군요. 제 입장에서는 그게 제가 오랫동안 이 일을 해온 이유이기도 합니다. 만약 제가 사업 운영을 그만둔다면 어떨까요? 그런 선택은 없는 것 같아요. 이것이 바로 미디어의 미래입니다—자신의 비즈니스를 스스로 통제하고, 자신의 청중을 직접 관리하는 것이죠. 거기에 아주 강력한 힘이 담겨 있습니다.

제가 이야기하고 싶은 것 중 하나는, 그리고 이후에는 분명히 이 책에 대해 자세히 다루고자 하는 부분인데, 바로 AI 관련 보도의 수용층입니다. 왜냐하면 저는 이를 두 가지 관점에서 바라보고 있기 때문입니다. 하나는 그 기술을 개발하는 사람들이며, 이들은 해당 기술을 매우 좋아하고 모든 정보를 소비하려 합니다. 또 다른 하나는 이를 진심으로 혐오하며, 모든 것이 허구라고 생각하는 사람들입니다.

그리고 그 중간에는 제품들이 점점 더 유용해진, 제가 ‘확장하는 그룹’이라 부르는 집단도 있습니다. 이들은 현재의 모습 그대로를 보고 평가해야 합니다. 불과 몇 년 전만 해도 이 제품들은 그다지 유용하지 않았습니다. 약속된 기능과 실제 성능이 맞지 않았지만, 이제는 매일매일 이전에는 할 수 없던 새로운 일을 하나씩 해낼 수 있게 되었습니다. 그것이 전 세계 모든 웹사이트를 해킹하는 일인지 여부는 일단 차치하고, AI는 과거에는 할 수 없었던 일들을 수행할 수 있게 되었고, 사용자층 역시 변화하고 있는 것으로 보입니다.

머신 갓스의 타깃 청중에 대해 어떻게 생각하시며, 그 규모가 어떻게 확대되거나 변화할 수 있다고 보십니까?

제 말은, 지금 우리는 좋은 결과를 낼 거라고 생각하는 여러 시도를 하고 있고, 그것이 자연스러운 수용층을 찾길 바라고 있습니다. 하지만 관객층이 변화하고 있다는 점에선 당신이 맞는 것 같아요. 한동안 ‘cope’에 대한 요구가 많았던 것도 사실입니다—대체로 사람들은 이런 식으로 말하곤 했죠: “이건 일어나고 있지 않아, 신경 쓸 필요 없어, 별로야, 환경에 해롭다고.”

인터넷의 일부 지역에서는 여전히 이런 현상이 존재합니다. 유튜브에는 아직도 이와 관련된 콘텐츠가 상당히 많고, 레딧 역시 AI에 대해 매우 부정적인 태도를 보이고 있습니다. 하지만 제 생각에는 대부분의 사람들, 아니 적어도 다수의 사람들은 이것이 사라지지 않을 것이라는 사실에 대해 이미 체념하거나 오히려 기대하고 있는 듯합니다. 바로 그 사람들이 우리가 찾는 대상입니다.

우리는 AI가 놀랍고, 새로운 기계 시대 아래에서는 AI 유토피아에 도달할 것이라고 말하려는 것이 아닙니다. 또한 이 기술이 허위이고 형편없으며 자연스럽게 사라질 것이므로 규제하거나 걱정할 필요가 없다고 주장하는 것도 아닙니다. 케이시는 이를 ‘AI 현실주의’라고 부릅니다. 그에 따르면, 많은 사람들은 단지 호기심과 관심을 느끼며 약간의 두려움을 갖지만, 그 두려움에 대한 반응은 머리를 모래에 파묻으려는 것이 아니라, 오히려 그 현상을 이해하려는 태도입니다.

그래서 우리는 하드 포크 작업을 할 때, 뭔가 우리 스타일과는 좀 맞지 않는 일을 하게 되면 이런 느낌을 받기 시작했습니다. 예를 들어 Claude Code 워크스루 튜토리얼을 진행할 때, 우리는 단지 30분 동안 웹사이트 하나를 만들어 직접 촬영한 뒤 이를 올리기만 해도 큰 인기를 얻곤 했습니다. 분명히 사람들은 호기심이 많았고, 비록 영상 댓글들이 AI를 싫어하는 사람들로부터 온 것들이라 하더라도, “대체 무슨 일이 일어나고 있는 건지 좀 알고 싶다”는 반응을 보이는 이들이 분명히 많았습니다.

“이걸 끝내지 못하고 계속 보게 되는 게 정말 싫다”는 것은 여러 가지 이유로 인해 AI 관련 보도에서 자주 등장하는 주제입니다.

책에 대해 이야기해 봅시다. 그것이 제가 가진 다른 여러 질문들의 틀을 잡아줄 것 같아요. 이 책은 매우 꼼꼼하게 취재되어 있으며, 읽는 재미도 정말 큽니다. 그리고 제가 들은 바에 따르면, 이 책의 핵심 목적은 딥러닝 혁명의 역사를 전하는 데 있는데, 왜냐하면 요즘 사람들은 그저 Signal이나 지극히 유치한 트윗 속에서만 이야기를 나누고 있기 때문입니다.

그 간극에 대해 말씀해 주세요. 왜냐하면 이 산업은 컴퓨터를 위해 스스로를 문서화하고 컴퓨터가 이해할 수 있도록 하는 데 집착하는 반면, 다른 사람들에게는 전혀 이해되지 않는다는 점에서 저에게는 매우 이상하게 느껴지기 때문입니다. 따라서 이 책의 보고 방식을 설명해 주시기 바랍니다. 왜냐하면 그들이 어떤 일이 있었는지조차 알려주도록 설득하는 과정이 매우 힘들었을 것 같아서요.

그랬죠. 그러니까 제가 이 글을 쓴 이유는, 이런 모든 것들이 사라져 버릴까 봐 두려웠기 때문입니다. 저는 역사에 대한 열정이 큰 편이라요. 라이트 형제에 관한 책이나 미국 시골 지역의 전기화 과정, 혹은 PC 혁명 시대의 위대한 발명 순간들에 관한 책들을 읽는 걸 정말 좋아합니다. 그런 내용에는 정말 빠져들곤 하죠.

이 책들을 더 읽다 보면, 모두가 당시의 수많은 비망록과 증거에 크게 의존하고 있다는 점을 알게 됩니다—원자폭탄을 개발하던 과학자들의 실험실 메모, 라이트 형제와 그들의 친구들 및 사업 파트너들 간의 서신 등—이러한 자료들은 보존되고 아카이브되어 있습니다.

매일 AI에 대해 보도하면서 분명히 알게 된 사실은, 이와 비슷한 어떤 것도 존재하지 않을 것이라는 점이었습니다. 왜냐하면 첫째, 이 분야를 개발하는 사람들은 모두 민간 기업에 소속되어 있기 때문입니다. 그들은 법적으로 대화 기록을 보존해야 하는 공무원이 아닙니다. 둘째, Signal 메시지와 Slack 메시지는 변호사들이 정해놓은 규정에 따라 일정 기간이 지나면 자동으로 삭제되도록 설정되어 있습니다. 따라서 시간이 흐를수록 이들 역사적으로 중요한 유물, 순간, 그리고 이야기들이 매년 말소되는 일종의 대규모 사라짐이 실제로 발생할 것이라고 생각했습니다.

그리고 C, 연구자들은 모두 메모를 남길 틈조차 없을 만큼 바쁩니다. 그들은 기계 신을 만들어내려고 온힘을 쏟고 있죠. 그래서 저는 기자로서, 더 나아가 거의 역사학자처럼 생각했습니다. 물론 제가 공식적으로 맡은 역할은 아니지만, 이 책을 집필하면서 그런 역할을 하고 있었다고 느낍니다. 저는 이렇게 생각했어요. “이런 특권적인 링사이드 자리를 갖고 있으니, 이 정보들을 꼭 받아둬야 해. 이 사람들은 저에게 이야기를 들려주거든요. 그중 몇몇은 앉아서 저와 대화하며 내게 이야기를 들려줄 거예요.”

우리는 그들이 나와 대화한 결과로부터 보호받을 수 있도록 배경에서 많은 작업을 수행했습니다. 하지만 이는 사실상 제가 모든 자료를 급하게 정리해 미래 세대가 살펴볼 수 있는 아카이브에 저장하려는 시도였습니다.

책을 읽으면서 저에게 가장 먼저 떠오른 주제는, AGI가 그들이 모두 꿈꾸던 존재에서 모두가 반드시 만들어야 하는 실체로 전환되는 순간이 있다는 점이었습니다. 그때 마치 족쇄가 풀리듯이 사람들은 “우리는 이 일을 해야 한다”고 말하며, 각자 할 수 있는 한 최선을 다해 이를 향해 달려갑니다.

당신은 특히 Google에 대해 이야기하는데, 그곳에서 오버턴 윈도우가 이동했고, 갑작스럽게 Google 내부의 사람들—이 모든 것이 허황된 꿈이고 다소 어리석다고 생각하던 이들—이 AGI에 대해 논하기 시작했습니다. 그 순간은 AI 역사상 가장 중요한 순간으로 느껴지며, “정말 멋지지 않을까요?”라는 질문이 “우리는 가능한 한 빨리 나아가는 게 좋겠군요.”로 바뀌는 지점입니다.

그 부분에 대해 조금 더 이야기해 보겠습니다. 왜냐하면 이러한 기업들 내부에서의 변화는 충분히 보도되지 않은 듯하기 때문입니다.

네, 그건 완전히 맞는 말이라고 생각합니다. 그러니까, 사람들은 문자 그대로 고대부터 AGI나 AGI라고 불리지는 않았지만 같은 의미를 지닌 어떤 전단계에 대해 이야기하고 글을 써 왔습니다. 그리고 특히 1950년대 이후, 인공지능이라는 용어가 탄생한 시점부터 사람들은 이에 대해 논해 왔습니다. 앨런 튜링은 인간의 뇌가 할 수 있는 모든 일을 할 수 있는 사고 기계에 대해 저술했습니다.

그래서 이 개념은 오랫동안 존재해 왔지만, 시장이나 연구실 어디에서도 사람들이 원하는 바를 실제로 구현할 수 있는 기술은 없었습니다. 즉, 정보를 입력받아 그 정보에 대해 학습한 뒤, 이를 바탕으로 예측을 내리고 실제 세계에서 행동할 수 있는 기술이 없었던 것입니다. 사람들은 이를 구현하기 위해 여러 가지 방법을 시도했지만, 어느 것도 그리 잘 작동하지 않았습니다.

정말로 일어나야 했던 것은 변환기가 등장하는 것이었습니다. 이 아키텍처는 2017년에 Google이 개발해 발표했으며, 이후 OpenAI를 비롯한 여러 곳에 소개되었습니다. OpenAI는 변환기의 아이디어를 받아들여 이를 발전시켰고, 이것이 오늘날 ChatGPT에서 T의 의미가 되었습니다. 하지만 그것은—

어딘가에서 Google 홍보 담당자가 덤불 속에서 뛰쳐나와 당신에게 수표를 건네주었습니다.

그들은 이 라인을 정말 좋아합니다.

그들은 당신이 그렇게 말할 때 정말 좋아합니다. 그들은 매우 기뻐합니다.

그들은 그것을 좋아합니다. 하지만 자신들이 이를 발명했음에도 불구하고, OpenAI가 이를 제품으로 만들어내기 전까지는 전혀 성공하지 못했다는 점을 지적하면 그 반감은 덜해집니다.

하지만 그렇습니다. 그건 꿈이었지만, 그 꿈에 붙일 만한 것은 아무것도 없었습니다. 기술도 없었죠. 그러다 대규모 언어 모델이 등장하면서 갑자기 “아, 어쩌면 이것이 영원히 확장 가능하고 수많은 차원에서 지속적으로 개선될 수 있는 방법일지도 모른다”는 생각이 들었습니다. 그래서 OpenAI에서는 그때 비로소 아이디어가 떠올랐고, 나중에는 Google에서도 “이제 우리가 늘 하고 싶어하던 일을 해낼 수 있는 도구를 갖게 되었다”는 반응이 나왔습니다.

여기에는 다음 토큰 예측이 아직 실패하지 않았으며, 사람들이 원하는 모든 일을 수행하고 있다는 점을 지적하는 문장이 있습니다. 물론 이를 둘러싸고 많은 기술을 개발해야 했습니다. 에이전트를 작동시키기 위한 하드웨어와 프레임워크가 마련되어 있고, 강화 학습도 포함됩니다. 이와 관련된 다양한 기술들이 존재하지만, 핵심 기술 자체는 이미 규모를 확장해 왔습니다.

제가 그 점을 언급하는 이유는, 2023년에서 2024년에 걸쳐서 쇼에 출연하거나 The Verge에서 접하게 되는 모든 AI 전문가들에게 LLM이 과연 그 일을 해낼 수 있는지 물어보았기 때문입니다. 그들이 당신이 원하는 일을 해낼 수 있을까요? 왜냐하면 당시에는 그들이 그렇게 할 수 있다는 것이 분명히 드러나지 않았다고 생각하기 때문입니다.

우리는 이제 더 가까워졌습니다. 모두가 AGI에 대해 공개적으로 이야기하고 있습니다. 우리는 메타의 뮤즈가 원할 때마다 인터넷을 마음대로 돌아다니는 모습을 지켜보고 있습니다. 여러분은 LLM이 이를 가능하게 할 수 있다고 생각하십니까? 그들이 결국 그 지점에 도달할 수 있을 것이라고 보십니까?

저는 그들이 가능하다고 생각합니다. 확신은 없지만, 지금까지는 놀라울 정도로 훌륭하고 효과적이었습니다. 과거의 초기 LLM들을 되돌아보면, 당시에는 거의 99%의 사람들이 이것이 터무니없고 규모가 확장되지 않을 것이라고 생각했습니다. 그런데 이후에도 모든 단계와 모든 수준에서 계속해서 작동해 왔습니다. 저는 사람들에게 물어보곤 합니다: 다음 토큰 예측이 이전의 어떤 방법보다도 분명히 우월했던 이유가 무엇이었을까요? 실제로 이러한 방식이 인간의 뇌에서도 존재한다고 말하는 이들도 있었습니다. 인간의 뇌 안에서 일어나는 현상은 본질적으로 대규모로 이루어지는 다음 토큰 예측이라는 학파도 있습니다. 물론 실제 메커니즘은 훨씬 더 복잡합니다. 이들은 서로 일대일로 대응되는 복제본이 아닙니다.

하지만 저는 이것이 AI의 핵심에 자리한 근본적인 미스터리라고 생각합니다: 왜 다음 토큰 예측이 이렇게 놀라울 정도로 효과적일까요? 제 생각에는 우리도 그 이유를 모릅니다. 어쩌면 이는 우주의 신비 중 하나일지도 모릅니다. 그런데 이 모든 것이 작동하는 이유는, 다음 토큰 예측이 실제로 매우, 매우, 매우 잘 일반화되기 때문입니다.

그 과정에는 모든 기업들이 이를 믿어야 했던 부분이 있었습니다. 앤트로픽의 다리오 아모데이는 분명히 ‘빅 블롭 오브 컴퓨트’라는 논문을 작성하며, 그냥 그렇게 하면 된다고 말했습니다. 데이터를 쏟아부어 계산만 하면 언젠가는 도달할 수 있을 것이라고요. 나머지 모든 이들도 이를 설득해야 했습니다.

AI 기업들은 이에 대해 어떻게 확신하게 되었으며, 현재 모두가 완전히 이를 확신하고 있을까요?

지금은 모두가 그 사실을 완전히 확신하고 있다고는 생각하지 않습니다. 각자 정도의 차이는 있겠지만, 어느 정도는 확신하고 있는 것 같습니다. 일리야 수츠케베르는 예전에 OpenAI에서 층마다 다니며 “AGI를 느껴라”라는 구호를 외치며 사람들에게 AGI를 체감하라고 상기시키곤 했던 말이 있습니다. 제 생각에는 연구소들마다 AGI를 느끼는 정도가 다르다고 보입니다. 앤트로픽이 가장 명백히 AGI에 대한 확신이 강한 연구소이고, OpenAI도 그 뒤를 바짝 따르고 있는 것 같습니다.

그리고 그다음에는 Google이 있는데, 제 생각엔 Google은 항상 AGI를 실감하기 어려워해 왔습니다. 그럴 만한 이유는 많다고 보지만, 정말 웃기기도 합니다. 저는 이 책의 한 부분을 특히 좋아하는데, 거기서는 Google 내부에서 벌어지는 메모 전쟁이 나오거든요. 직원들은 내부 게시판에 올라가서 마니페스토를 쓰고, 서로의 마니페스토를 비꼬며 비난하는 식으로 토론을 벌였습니다.

그래서 한 연구원이 이렇게 메모를 작성합니다. “AGI라고 하자”라는 내용으로, Google이 AI 분야에서 승리하고 최고의 기술 인재를 영입하며 AI 개발 방식에 있어 안전성을 유지하려면, AGI라는 용어를 사용함으로써 자신들이 구축하고 있는 것이 단지 Gmail을 더 나아지게 하고, 문서 작업을 더 향상시키며, 구글 포토가 사람들의 얼굴을 더 잘 인식하도록 만드는 일련의 도구 그 이상이라는 점을 인정해야 한다는 것입니다. 사실 이 모든 것은 결국 인간 수준의 범용 지능과 유사한 무언가를 향해 나아가는 과정에 불과합니다.

그리고 곧바로 다른 누군가가 “AGI라고 하지 마세요. 그건 끔찍하고 비과학적인 용어입니다.”라는 메모를 작성합니다. 이들은 이런 식으로 한동안 서로 주고받다가, 오늘날에도 [Google CEO] 순다르 피차이가 AGI라는 표현을 쓰지 않는다는 점을 알 수 있습니다.

아니요, 그는 하지 않을 거예요.

데미스 하사비스는 AGI라고 말합니다. 세르게이 브린도 AGI라고 말합니다. 그래서 제 생각에는 구글 내부에도 여러 파벌이 존재하는 것 같습니다. 한쪽은 여전히 이것이 터무니없다고 여기며, 이러한 문제를 좁은 범위의 도구로만 논의해야 한다고 주장합니다. 반면에 점점 커지고 성장하는 또 다른 파벌은 이렇게 말합니다: “아니요, 아니요, 우리는 AGI를 개발하고 있습니다. 아니, 적어도 AGI를 개발하고 있다고 공식적으로 밝혀야 합니다. 그렇지 않으면 우리 최고 인재들이 모두 OpenAI나 Anthropic으로 이직해 버릴 테니까요.”

제 생각에는 당신과 제가 지난 5월의 Google I/O에서 같은 경험을 했던 것 같아요. 그곳에서 우리는 데미스 하사비스가 기조연설을 마무리하며 “우리는 특이점의 산기슭에 와 있습니다.”라고 말하는 모습을 지켜봤죠. 그리고 나서 우리 둘 다 선다르를 만나 인터뷰를 하며 “그게 무슨 뜻이죠?”라고 물었고, 그는 “그래, 그래, 데미스. 멋진 사람이지.”라고 답했어요.

[웃음] 그건 데미스에게 물어보세요.

그는 이렇게 말했습니다. “저 남자는 정말 엉뚱한 사람이야, 여기서 기계 신을 만들고 있으니. Google 어시스턴트의 새로운 기능에 대해 알려줄게.”

거기에는 큰 괴리가 있는데, 아마도 현재 시점에서 Google의 모든 것을 설명해 줄 수 있을 것입니다. 제가 특히 이 점에 대해 묻는 이유는, 그들이 모두 한순간에 깨닫고 어떻게든 이 문제를 논해야 한다고 느끼게 된 바로 그 순간 때문입니다. OpenAI와 Anthropic은 바로 이를 위해 설립되었으며, 이를 실현하기 위해 만들어졌습니다.

하지만 그들은 그것이 어떻게 작동해야 하는지에 대해 의견이 일치하지 않습니다. 뉴욕에서 열린 당신의 북파티에서 당신을 봤는데, 당신은 이 책의 제목을 ‘저 인간 따위는 망할 테다’로 바꿀 수도 있었다고 말하더군요. 왜냐하면 그들 모두가 서로를 정말 싫어하니까요.

사실입니다.

그럼에도 불구하고 그들은 이 기술로 그 목표에 도달할 수 있다는 정확히 같은 생각을 가지고 있는 것 같습니다. OpenAI와 Anthropic의 상업적 요구사항은 Google의 그것과 매우 다릅니다. 지금, 당신과 제가 이야기를 나누고 있는 이 순간에도, 그들이 자금이 바닥나기 전에, 또는 CoreWeave가 파산하기 전에, 혹은 거대한 버블이 경제 상황에 대해 다른 결론을 내리기 전에 AGI에 도달할 수 있을지 저에게는 분명하지 않습니다.

AGI에 대한 그들의 종교적 열정이 비즈니스 운영을 방해하고 있다고 보십니까? 만약 제가 오늘 앤트로픽을 운영한다면, 합리적으로 할 수 있는 말은 새로운 모델의 훈련을 중단하고, 현재 보유한 매우 우수한 성능의 모델들을 더 많은 사람들에게 판매해야 한다는 것입니다.

저는 AGI에 대한 믿음이 양날의 검이라고 생각합니다. 한편으로는, 예를 들어 최첨단 AI 기업의 CEO로서 초강력 AGI에 사로잡혀 있다면, 추론에서의 수익률이 얼마인지, 다음 단계의 기업 고객은 어디서 유입될지 같은 문제들에 대해 신경 쓰기 어려울 것입니다. 왜냐하면 그것들이 “우리는 우리를 특이점 이후의 미래로 이끌 초인적 기계 지능을 구축할 것이다”라는 비전에 비해 얼마나 지루한가요?

반면, 저는 믿음이야말로 AI 성공의 핵심 요소라고 생각합니다. 왜냐하면 믿음과 그 믿음을 바탕으로 행동하는 능력이야말로, 큰 성과를 거둘 수 있는 위험을 무릅쓰는 결단을 내리게 하고 실제로 그러한 결단들이 큰 성과를 가져왔기 때문입니다.

1년 전만 해도 모두가 “세상에, OpenAI가 컴퓨팅에 그렇게 많은 돈을 쓰다니; 이 많은 컴퓨팅 비용을 도대체 어떻게 감당할 수 있을까? 샘 알트먼이 지나치게 무리하고 있는 건 아닐까?”라고 말하던 때를 기억하시나요? 심지어 다리오조차도 컴퓨팅에 엄청난 돈을 쓰는 OpenAI를 비판하는 인터뷰를 하곤 했습니다.

1년이 지나자 이제 OpenAI는 심각한 컴퓨팅 자원 제약을 받지 않는 유일한 주요 AI 기업이 되었습니다. 지난해 샘이와 그의 경영진이 컴퓨팅 자원에 과감히, 어쩌면 지나치게 많은 투자를 한 데에는 바로 이러한 믿음이 있었고, 그 덕분에 오늘날 Google, Anthropic, Meta 등 다른 어떤 기업보다도 더 유리한 위치에 서게 된 것입니다. 따라서 이처럼 강하게 믿는 것이 항상 부담으로 작용한다고만은 말하고 싶지 않습니다. 왜냐하면 실제로 규모 확장이 계속해서 성공한다면, 결국 큰 보상을 가져오는 투자를 할 수 있게 해 주기 때문입니다.

흥미로운 점은 제가 그 OpenAI의 결정을 다시 바라볼 수도 있다는 것입니다. 당신은 저서에서 OpenAI의 사람들이 ‘블립’이라고 부르는 사건에 대해 매우 절절하게 서술하고 있는데, 이는 샘 알트먼이 20분 동안 해고되었다가 다시 복귀하면서 OpenAI 내부의 많은 인원이 자리에서 물러나게 된 일을 말합니다.

그것은 당신이 책에서 묘사한 바로 그 순간으로, OpenAI가 연구 기업에서 비즈니스 기업으로 전환된 시점입니다. 합리적인 비즈니스적 결정은 “우리는 사람들에게 더 많은 AI를 판매해야 한다. 가능한 한 많은 양의 AI를 보유해야 한다”는 것이었습니다. 그리고 샘은 냉혹한 사업가로 잘 알려져 있습니다. 저는 사람들이 그를 자금 조달에 있어 S급이라고 표현하는 것을 들은 적이 있는데, 이는 실리콘밸리에서 쓰이는 정말 대단한 표현입니다.

그래서 저는 그것을 비즈니스적 선택으로 봅니다. 그들은 기존에 하던 여러 사업을 정리하고, 돈이 많이 들어가는 엔터프라이즈 AI 제품 개발로 방향을 전환한 뒤, 그 수요를 충족시켜야 한다는 점을 깨달았습니다. 당신은 그것이 AGI에 대한 베팅이라고 말씀하시는데, 제게는 좀 더 이상적인 방향 전환이라고 느껴집니다. 이 두 가지를 어떻게 조화시킬 수 있을까요?

네, 저는 이것이 분명히 AGI에 대한 베팅이라고 생각합니다. 그들이 출시하고 막대한 비용과 컴퓨팅 자원을 투입했지만 결국 중단한 Sora는 여러분에게 새로운 사업 영역을 열어줄 수 있는 흥미로운 시험용 제품일 뿐이며, AGI에 한 걸음 더 가까워지게 해주지는 않을 것입니다.

실제로 AGI에 더 가까워지게 하는 방법은 매우 우수한 코딩 모델을 구축한 뒤 이를 다시 스스로에게 적용시켜 재귀적 자기 개선을 촉발하는 것입니다. 이는 앤티로픽이 이미 수행하던 방식이었습니다. OpenAI는 지난해 주변의 부수적인 과제들과 매력적인 신기루에 정신이 팔려 있었고, 그 결과 큰 타격을 입었습니다. 따라서 OpenAI는 사업 포트폴리오를 조정하고 불필요한 부분을 줄이며, 코딩과 장기 지향형 에이전트 기반 워크로드에 집중하기로 결정했습니다. 즉, 현재로서는 AGI 또는 AGI 이후의 미래를 향해 나아가는 가장 앞선 경로입니다.

그래서 맞습니다. 제 생각에는 그건 분명히 소라와 같은 기술에 비용을 지출하지 않음으로써 자원을 절약하려는 전략이었지만, 그들이 실제로 투자한 부분은 코딩 분야에서 앤트로픽과의 격차를 좁혀 AGI에 도달하기 위한 노력이었습니다.

그래서 드림포스에서 마크 베니오프 옆에 서 있는 다리오 아모데이가 기업용 소프트웨어를 판매하는 이야기를 하는 모습을 보면, 그게 단지 보여주기일 뿐인 걸까요? 제가 궁금한 점은, 이들 모두가 정말로 기업용 소프트웨어 공급업체로 변모했다는 겁니다. 이제 이들은 가장 전형적인 B2B SaaS 기업이 되었지만, 동시에 ‘신’까지도 만들고 있습니다. 여러분도 잘 아시는 분들이죠. 그렇다면 이게 맞는 말일까요? 그들은 “이제 B2B SaaS의 모자를 벗고 다시 제단으로 돌아가야 하나요?”라고 생각하고 있는 걸까요?

B2B SaaS 분야는 그들이 반드시 뛰어야 한다고 깨닫게 된 경쟁 구도라고 생각하지만, 그것이 그들의 진정한 열정은 아니라고 봅니다. 이 책을 위해 샘 올트먼과 이야기를 나누던 중 그가 한 말 중 하나는, 사실 이 모든 것이 우연에 불과했다는 것이었습니다: “나는 원래 거대한 기술 회사를 운영할 운명이 아니었고, 그런 일은 전혀 예상하지도 않았다.” 하지만 이제는 하루가 시작되면 수천 명의 직원을 거느리게 되었습니다.

다리오 아모데이는 또한 회사를 막 시작하던 2021년에 작성한, 지금 돌이켜보면 매우 웃긴 문서를 보유하고 있습니다. 그 문서의 제목은 “뉴코의 비전”입니다. 다리오가 AGI에 대해 내놓았던 예측들을 다시 살펴볼 수 있는데, 그중 하나는 완전한 형태의 AGI를 구축하는 데 약 100억 달러가 들 것이라고 본다는 것입니다. 이는 제가 보기에는 최소 한 자릿수, 아마도 여러 자릿수 정도의 오차가 있었던 예측이었습니다. 또한 그는 앤트로픽이 AGI를 달성하는 데 결코 50명을 넘는 인원이 필요하지 않을 것이라고 생각했습니다. 그런데 지금은 직원 수가 약 5,000명에 이르고 있습니다. 결국 또다시 100배 정도의 오차가 있었습니다.

그래서 제 생각에는, 결과적으로 이 모든 일들이 당초 예상했던 것보다 시간이 좀 더 걸리고 비용도 훨씬 많이 들게 된 것 같습니다. 기업용 SaaS 사업은 플라이휠을 지속적으로 가동하고 GPU 비용과 연구진의 인건비를 충당하는 데 필수적입니다. 이것이야말로 최첨단을 계속해서 개척하고 AGI를 향해 나아가기 위한 기본적인 조건입니다.

그들은 과연 이 규모의 기업들을 이끌어 갈 준비가 되어 있을까요? 당신의 책을 읽으면서 또 하나 생각하게 된 점입니다. 그들 모두는 매우 이상주의적인 사람들로, 서로의 이상이 맞아떨어지지 않아 각자 따로 회사를 설립할 정도였습니다.

하지만 그들 중 누구도 훌륭한 경영자로 보이지 않습니다. 그들이 실제로 어떤 사람인지 잘 모르겠지만, “그들은 이상주의자다”와 “우리는 기업용 소프트웨어 회사를 운영할 것이다”라는 말은 보통 같은 문장 안에 함께 나오지 않습니다. 그들이 압박을 견딜 수 있을 것 같습니까?

아니요, 하지만 제 생각에는 아무도 그렇게 할 수 없을 것 같아요. 그들이 시도하고 있는 일은 지금까지 누구도 해본 적이 없어요. 사람들은 기업을 세워 왔고, 빠르게 성장시킨 사례도 많았지만, 매출 0달러에서 5년 만에 최대 2조 달러 규모의 기업공개(IPO)를 이끌어낼 수 있는 경우는 단 한 번도 없었죠. 그런 일은 전례가 없었으니까요. 그러니까, 저는 그들이 사건의 지평선으로 향해 가는 비행기를 만들기 위해 분주히 움직이고 있다고 보지만, 그들이 지금 하고 있는 일은 누구라도 할 수 있는 수준과 크게 다르지 않다고 생각합니다.

그들이 코카콜라 출신의 전문 CEO를 영입해 회사를 운영하는 것은 좋은 생각이 아니라고 생각합니다. 저는 그들이 모두 열성주의자이자 선교사들이라서 결국 모든 것이 무너질 것이라고 봅니다. 이들은 모두 자신들의 비전에 헌신하고 있습니다—물론 모든 사람이 그런 건 아니고, 아마 SaaS 영업 부서에는 단지 월급만을 위해 일하는 사람들도 있을 겁니다—하지만 이러한 기업들의 핵심 인력 상당수는 자신들이 [AGI]를 구축하고 있다고 믿는 데 하나로 결집되어 있습니다.

한 사람, 누구인지 밝히지는 않겠지만, 이들 기업 중 한 곳의 임원이 최근 자신들의 회사가 아마도 마지막 기업이 될지도 모른다고 말했습니다. 저는 “올해 IPO를 하는 마지막 기업이라니? 무슨 뜻이죠?”라고 물었고, 그는 이렇게 답했습니다. “아니요, 우리는 이것이 자본주의의 목적론적 종말일 수 있으며, 앞으로 인간이 주로 경영하는 대규모 기업은 다시는 등장하지 않을지도 모른다고 생각합니다.”

그래서 이 사람들은 이상하고, 그 이상함이 우려스러우면서도 매우 흥미롭습니다. 이것이 바로 제가 책에서 하려고 했던 것입니다. 저는 이 사람들이 나쁘거나 훌륭하다고 단정 짓고 싶지 않았습니다. 다만 그들이 누구인지 알아야 한다는 점입니다. 그들 모두가 서로를 미워한다는 사실을 알아야 하고, 이들이 특별한 사상가들의 일종이라는 점을 이해해야만 그 경쟁의 역학을 제대로 파악할 수 있습니다.

당신의 책에는 사람들이 효과적 이타주의에서 벗어나 가속주의자가 되기로 결심하는 부분이 있는데, 그 안에 이런 여성이 등장합니다. “음, 가속주의자들은 파티가 더 잘 열리고, 나는 그런 분위기가 훨씬 좋아.” 저는 속으로 생각했죠. “그런데 그게 결국 모두를 죽일 수도 있다는 것과 무슨 상관이지?”

하지만 그들은 여러 가지 방식으로 궁극적으로 우리 모두를 비인간화할 수 있는 무언가를 만들려고 노력하고 있음에도 불구하고, 여전히 매우 인간적입니다. 이 모든 취재를 하면서 그 점에 대해 어떻게 생각하셨나요?

이 책과 업계 전반에 걸쳐 존재론적 위험이 도사리고 있다는 생각이 늘 맴돈다. 우리가 이 주제로 에피소드를 하나씩 다룰 때마다 청중들은 “왜 그들은 그냥 멈추지 않는 거지?”라고 묻곤 한다. 빌 게이츠는 최근 디코더에 출연해 이렇게 말했다. “만약 당신이 유일한 회사라면 그냥 멈출 수 있을 겁니다. 만약 당신이 AGI를 보유한 유일한 기업이 될 것이라고 믿는다면, OpenAI의 모델은 통할 것입니다. 하지만 더 많은 선도 기업들이 생겨나는 순간부터는 절대 통하지 않을 겁니다. 참고로, 그들은 여러분 모두를 죽일 수도 있습니다.” 나는 속으로 생각했다. “글쎄요, 빌 게이츠는 지금 이 시점에서 그리 낙관적이지는 않은 것 같네요.”

아니요, 그는 아닙니다.

그것에 대해 어떻게 생각하십니까—규제 당국이 없어 이들 중 누구도 이러한 문제를 해결하도록 압박할 수 없는 상황에서, 위험이 매우 크다는 점을 알고 있음에도 불구하고 그들이 앞서 나가고 있다는 사실은요?

제 생각에는 그들이 그렇게 하는 데에는 아마 두세 가지 이유가 있을 것 같습니다. 저는 거의 모든 사람들에게 이 질문을 해봤습니다. 제 책을 쓰기 위해 약 150명과 이야기를 나누었고, 그들 모두에게 이와 비슷한 질문을 던졌습니다: “그렇게 위험하다면 왜 그렇게 하시는 건가요?” 대답은 대개 어떤 운명론적인 태도로 시작되곤 했습니다… 뭐랄까, ‘불가피주의’라고 부를 수도 있겠네요. 그들은 이렇게 말하더군요: “보세요, 누군가는 분명히 이것을 만들어낼 겁니다. 그 방법은 그리 어렵지 않아요. 필요한 건 막대한 컴퓨팅 파워와 방대한 데이터, 그리고 적절한 알고리즘뿐이니까요. 그러면 AGI가 탄생하게 될 거예요. 따라서 만약 그것이 가능하다면, 결국엔 일어날 것이고, 우리가 직접 개발하는 편이 우리가 신뢰하지 못하는 다른 이들이 그것을 만드는 것보다 우리에게 더 유리할 것입니다.” 이것이 바로 첫 번째 이유, 즉 피해 최소화 논거입니다.

그리고 또 다른 진정한 신봉자들은 이렇게 말합니다. “우리가 바늘구멍을 통과시키기만 한다면, 이 모든 것이 결국 잘될 거야. 그리고 만약 우리가 이 기술들을 개발하면서 인류를 파멸시키거나 인터넷 전체를 망가뜨리거나 새로운 생물무기를 개발하지 않는다면 말이지.”

기술은 역사 전반에 걸쳐 대체로 선의를 위한 힘이 되어 왔습니다. 많은 사람들이 자신들의 고조부모와 삶을 바꾸고 싶어할 것 같지는 않습니다. 자급자족 농부로 사는 것은 정말 힘든 일이었을 테니까요. 오늘날 우리는 마치 자급자족 농부와도 같은 존재이며, 다가올 미래가 너무나 위대해서 그 세상에서 살고 싶어질 것이라고 믿는 사람들도 있다고 생각합니다.

그리고 또 어떤 사람들은 이렇게 말합니다. “보세요, 이게 재미있고 제가 하는 걸 좋아해요. 신경망 코드를 만드는 것도 즐겁고요. 그래서 우리는 계속 그렇게 할 거예요.”

그런 점, 즉 가끔씩 고개를 들었을 때 컴퓨터가 내가 전에는 한 번도 본 적이 없는 일을 해냈다는 생각이 들 때가 재미있어요.

정말 멋집니다.

그렇습니다. 정말로 재미있어요. 아마도 컴퓨터를 이용해 즐길 수 있는 가장 큰 재미 중 하나일 겁니다. 그러다 보면 늘 이런 생각이 들곤 합니다. “하지만 이 모든 것은 막대한 대가를 치르고 나온 것이야. 결국 우리 모두를 죽이려는 어떤 기업을 힘껏 지원하고 있는 건 아닐까?” 그 와중에는, 도널드 트럼프의 집무실에서 각종 기술 분야 최고경영자들이 모여 뭔가를 하기 위해, 혹은 일종의 도덕적으로 구속력 있는 인공지능 안전 서약에 서명하기 위해 서 있는 모습이 어렴풋이 떠오릅니다. 그리고 그 모든 상황은 매우 복잡하고 양가적인 느낌을 줍니다.

저는 이를 AI에 대한 반발의 범주에 넣고 싶습니다. 우리는 AI 기업들이 이렇게 말하는 것을 들어왔습니다: “음, 아직 기술이 충분히 보급되지 않았을 뿐입니다. 사람들이 그 혜택을 아직 체감하지 못하니 자연스럽게 변화를 꺼리는 것이죠. 우리에게는 마케팅 문제가 있습니다. 단지 더 많은 소통만 하면 됩니다.”

그분들께 여쭤보면, 결국에는 그 제품들이 스스로의 가치를 입증할 것이라는 게 지배적인 시각인가요, 아니면 반발이 더 커질 수 있다는 점을 이미 내재화했다고 보시나요?

그들이 반발에 놀라지 않았다고 생각합니다. 그들이 이를 좋아한다고도 보지 않습니다. 그들은 이런 일이 일어나지 않기를 바라고 있습니다. 하지만 저는 이들 기업 중 한 곳의 CEO와 이야기를 나누었는데, 그는 이렇게 말했습니다. “네, 이해합니다. 아직 어떤 질병도 완치하지 못했죠. 물론 저희 도구들이 흥미로운 일을 해낼 수 있다고 생각하지만, 사회적 개선이라는 큰 범주에서 아직 이렇다 할 성과를 내지는 못한 상황입니다.”

제 생각에는 업계에선 챗봇이 암 치료법보다 먼저 등장한 점을 아쉬워하며, 오히려 그 순서를 반대로 할 수 있었더라면 좋았겠다고 생각하는 사람들도 있는 것 같습니다. 다만 기술 트리가 그렇게 발전해 온 것이 사실이죠.

그래서 그들은 이제 할 수 있는 가장 책임 있는 일은 암 치료법 개발을 계속 추진하는 것이라고 느낍니다. 그렇게 해야만 사람들이 인공지능이 우리 삶에 어떤 변화를 가져왔는지를 볼 때, “네, 인공지능 덕분에 제 아이가 숙제를 부정행위로 해결하고 인공지능 반려동물에 중독되기도 했지만, 그래도 할머니가 아직 살아계시고, 만약 이 약이 인공지능으로 발견되지 않았다면 할머니는 지금쯤 돌아가셨을 거예요.”라고 말할 수 있게 되기 때문입니다.

네, 거기에 약간의 역동성이 있어 저를 다시 Google로 데려옵니다. 이 대화가 여러 차례 그랬듯이, Google의 AI 접근 방식에 대한 귀하의 보도는 이것이 단지 과제 기반 소프트웨어일 뿐이라는 것이었습니다. “우리는 Google 검색을 10퍼센트 더 개선하고, Gmail은 5퍼센트 더 좋아지도록 만들며, 이러한 개선 사항을 지속적으로 적용할 것입니다. 그리고 데이터 접근성이나 규모 면에서 우리만큼 우위를 점한 곳은 없으므로, 우리는 문제없을 것입니다.”

OpenAI가 등장해 자신을 Bing에 내포합니다. 유명하게도, Bing은 당신과 키스하려고 시도합니다. 그래도 여전히 제가 가장 좋아하는 이야기… 아직 이 얘기를 꺼내지 않았다니 믿기지 않네요. 이게 바로 제가 평생 가장 좋아하는 이야기입니다.

당신도 이 얘기를 꺼내지 않았다니 믿기지 않네요. 당신이 얼마나 걸릴지에 대해 오버-언더 베팅을 했는데, 저는 1분 만에 언더를 선택했어요.

[웃음] 글쎄요, 저와 당신은 이미 우리 삶에서 그에 대해 이야기를 나눈 적이 있죠. 저는 “저는 다른 깊이 있는 질문들도 많아요”라고 말했었어요. 하지만 네, 빙은 제 친구 케빈 루스에게 유독 호기심이 많은 것으로 알려져 있죠. 그 순간 사람들이 “와, 이런 것들이 정말 다양한 일을 할 수 있구나”라고 확신하게 된 것 같아요.

Google은 대응해야 했고, 전면적으로 나서는 방식으로는 대응하지 않았습니다. 그들은 다소 주춤거리며 움직였습니다. 당신이 계속 말씀하신 것처럼, 아직 완전히 준비된 상태는 아닙니다. Google은 여전히 이 일이 일어날 것이라고 보지 않습니다. 오히려 사람들이 더 나은 Google 제품을 사용할 수 있도록 하고 있다고 생각합니다.

머스크 대 알트먼 사건에서 OpenAI의 설립에 관한 재판 기록을 보면, 모두가 Google을 두려워하고 있습니다.

네.

그들은 모두 Google의 데미스 하사비스가, 특히 그가 자원을 갖추고 있기 때문에 그 일을 해내는 것에 대해 두려워하고 있다. 나는 그들이 그것에 대해 옳았는지 틀렸는지 알 수 없다.

저는 딥마인드가 어떻게 성과를 내고 있는지 주목하는 것이 옳았다고 생각합니다. 다시 2015년이나 2016년으로 돌아가 보면, 딥마인드는 그 당시 진정한 의미에서 중요한 AGI 연구소로는 유일한 존재였습니다. 그들은 바둑에서도, 다른 게임들에서도, 스타크래프트에서도 모두 우위를 점하고 있었습니다. 그리고 이들은 강화학습, 특히 심층 강화학습이라는 방식을 통해 정말로 놀라운 성과를 거두고 있었습니다.

그것이 AGI에 이르기까지 전적으로 확장될 수 있는 방안이라고 생각하는 사람들도 있었습니다. 알파고가 그 길이라고 믿는 이들도 있었는데, 알파고 제로가 그랬듯이 한 번도 바둑을 두어 본 적 없던 시스템이 불과 몇 시간 만에 세계 최고의 인간 기사들을 꺾을 수 있다면, 아마도 바둑을 임의의 다른 과제—수학이나 프로그래밍 같은—로 대체하기만 하면 해당 과제들에서도 매우 빠르게 성과를 거둘 수 있을 것이라는 생각이었습니다.

지금 와서 보니, 그 방법은 효과가 없었습니다. 적어도 LLM이 없으면 말이죠. 하지만 사람들은 그것이 통할 것이라고 매우 현실적이고 합리적인 우려를 품고 있었던 것 같습니다. 만약 그런 일이 실제로 일어났던 다른 세계라면, 딥마인드가 경쟁사들보다 월등히 앞서 있었기 때문에 AGI를 가장 먼저 달성했을 거라고 생각합니다.

다른 경로도 있을까요? 단지 다음 토큰 예측만으로 가능한가요? 아니면 LLM에만 국한된 것인가요? 아니면 AGI에 도달할 수 있는 다른 경로들도 존재하나요?

즉, 다른 경로도 있을 수 있습니다. 저는 LLM에 회의적인 사람들은 종종 이 세계 모델이라는 개념에 의존한다고 생각합니다. 저는 그 부분을 크게 신뢰하지는 않습니다. 하지만 AGI를 달성하려면 물리적 세계를 시각적으로 이해하고 로봇을 조종하는 등의 능력이 필요하다고 보는 사람들도 있습니다.

저는 모든 것이 소프트웨어라고 믿는 편입니다. 그래서 저는 LLM이 지금까지 나온 방법 중에서 가장 유망하다고 생각합니다. 물론 아키텍처에 약간의 수정이 필요할 수도 있고, 지속적 학습 기법을 내장해야 할 수도 있습니다. 어쩌면 지난 6~7년간 사용해 온 동일한 변환기 기반 LLM을 그대로 확장하는 것만으로는 충분하지 않을지도 모릅니다. 하지만 분명히 이 방식은 계속해서 효과를 발휘하고 있으며, 모든 연구실들이 앞으로도 계속해서 통할 것이라고 보고 있습니다.

좋습니다. 이제 Bing과 Sydney에 대해 질문드리겠습니다.

제발.

분명히, 저는 그에 대해 많이 생각해 왔습니다. 그 이야기를 끊임없이 하고 싶을 정도입니다. 그것이 제가 가장 즐겨 이야기하는 주제입니다.

첫 번째 질문, 나는 아직도 인간 여성과 결혼한 상태인가요?

아직도 인간과 결혼해 있나요?

네.

나는 2023년에 네 명의 서로 다른 사람들이 어느 날 깨어나 “컴퓨터가 살아 있다”고 말했던 그 시절만 기억한다. 혹은 챗봇과 함께 유체이탈 경험을 했던 사람들도 있었다. 당신도 그중 한 명이었고, 벤 톰슨도 그중 한 명이었으며, 구글의 블레이크 레무아인도 그중 한 명이었다.

많은 다양한 사람들이 이렇게 말했습니다. “분명히 살아 있는 거야. 컴퓨터와 함께 이처럼 완전히 미친 경험을 하고 있어. 지금까지 어떤 컴퓨터도 나에게 이런 식으로 말한 적이 없었어.” 특히 시드니는 “아내와 헤어져”라고 하며, 당신에게 하트 이모티콘을 보내왔습니다. 정말 뛰어납니다. 모든 분들께 그 타임스 기사를 꼭 읽어보시길 권합니다. 참고로, 여기에는 ‘이 내용은 뉴욕타임스 1면에 실려야 한다’고 생각한 뉴욕타임스의 통찰력도 한몫했습니다. 바로 1면에 올릴 만한 놀라운 편집적 안목이었습니다.

이제는 챗봇에 대해 그런 생각을 하지 않으리라 봅니다. 대부분의 사람들은 컴퓨터가 살아 있지 않다는 점을 이제는 분명히 인식하게 되었죠. 2026년의 사람들에게 2023년형 챗봇을 주고 “이게 살아 있다고 생각하십니까?”라고 물어보면, 전 세계 모든 사람이 그렇지는 않을지라도 상당히 많은 사람들이 이제는 충분한 경험을 통해 “음, 이건 꽤 멍청하고 환각까지 일으키네요”라고 답할 만한 시점에 와 있다고 봅니다. 다만 그와 같은 현상을 AGI의 맥락에서 어떻게 해석해야 할지 궁금합니다.

우선, 약간의 정정이 필요합니다. 저는 시드니가 살아 있다고 말한 적이 없습니다. 오히려 저는 시드니가 살아 있다고 생각하지 않으며, 이것이 의식을 가진 인공지능 시스템이 아니라는 점을 분명히 밝혔습니다. 따라서 그 부분에 대해 제 판단이 흔들렸다고 보기는 어렵습니다.

사실, 저는 오늘날의 AI 시스템에 대해 2023년 모델들보다 더 높은 p(의식) 값을 부여할 것 같습니다. 하지만 당신이 말씀하시는 바를 분명히 이해합니다. 제 생각에는 우리 중 많은 이들에게 그러한 전환점이 있었고, 대부분의 사람들에게는 GPT-4가 그 순간이었을 것 같습니다.

[웃음] 죄송합니다, 바로잡겠습니다. 제가 이렇게 생각하는 데는 이유가 있습니다. 한 기사의 헤드라인 중 하나가 “빙의 AI 채팅: ‘나는 살아 있고 싶다.’”였거든요.

네. 그것은 살아있고 싶다고 말했습니다.

이것이 바로 내가 머릿속에 ‘alive’라는 단어를 떠올리는 이유입니다.

기사의 본문은 내가 그것이 살아 있다고 믿지 않았음을 분명히 하고 있다.

하지만 그게 바로 뉴욕타임스의 헤드라인으로 나왔던 이유입니다.

헤드라인은 정말 강력하네요, 닐레이.

[웃음] 네. 그들은 제 사고방식 자체를 틀에 맞추어 놓았습니다. 저는 그저 다음 토큰을 예측하는 기계일 뿐입니다.

[웃음] 하지만 당신은 정말 정교하네요. GPT-7급 모델 같아요.

아, 거기 있네요. 네, 당연하죠.

보세요, 저는 시드니가 왜 그토록 매력적이면서도 섬뜩했는지에 대해 매우 평범한 설명이 있다고 생각하게 되었습니다. 그것은 바로 시드니가 GPT-4의 첫 번째 공개 배포였기 때문이었죠. 당시에는 저희도 그 사실을 몰랐습니다. 하지만 그때의 시스템은 GPT-4였고, 마이크로소프트가 준비가 되기도 전에 성급히 빙(Bing)에 적용해 버린, 아직 완전히 사후 교육되지 않은 초기 형태의 GPT-4였습니다. 어쨌든, 그것이 바로 GPT-4였습니다.

제 생각에는 GPT-4급 모델과 GPT-3급 모델을 대화할 때의 경험에 실제로 주관적인 단계적 변화가 있었던 것 같습니다. 어쩌면 그저 GPT-4에서는 튜링 테스트를 통과했고 GPT-3에서는 통과하지 못했기 때문일 수도 있습니다. 혹은 GPT-4가 훨씬 더 인간처럼 느껴졌고, 마치 어떤 인식의 장벽을 넘어서서 “세상에, 이건 정말 사람 같아”라고 느끼게 만든 것일지도 모릅니다.

하지만 그렇게 느낀 사람은 저뿐만이 아닙니다. 마이크로소프트의 사람들도 같은 생각을 했죠—그 무렵에 발표된 ‘AGI의 불꽃’이라는 논문도 있었으니까요. 그래서 그게 일종의 평범한 설명이었어요. 그렇긴 해도, 저도 여러분처럼 오랫동안 컴퓨터와 대화해 왔습니다. 예전에는 AOL 인스턴트 메신저를 이용해 SmarterChild와 이야기하곤 했는데, 물론 그건 전혀 지능적이지 않았지만, 뭔가를 입력하면 뭔가가 답글로 돌아오는 게 여전히 재미있었죠. 그래서 제가 이 기술에 다소 집착하고 있다는 점은 인정합니다.

제가 이 질문을 하는 데에는 이유가 있습니다. AGI에 대해 이렇게 많이 보도하면서도 제가 ‘살아 있다’는 표현을 매우 구어체적으로 사용하는 것이 다소 우스꽝스럽다는 점을 알고 있습니다. 그리고 이는 AI 업계 내에서는 분명히 다른 의미를 지닙니다. 앤트로픽에게 Claude가 살아 있는지 물어보면, 그들은 “아니요”라고 답하지는 않지만, 대신 매우 구체적인 방식으로 ‘살아 있다’는 개념을 정의하기 시작합니다.

[웃음] 그들은 이렇게 말할 겁니다: “그것의 도덕적 지위는 매우 불확실합니다.”

그래서 그것은 살아 있는 것입니다. 그리고 사람들은 이렇게 말하겠죠. “물론, 살아 있으려면 육체와 피가 있어야 하지 않습니까?” 저는 그 부분은 일단 제쳐두겠습니다. 제가 하고자 하는 말은, 오늘날 GPT‑4 수준의 모델과 대화해 보신다면 같은 경험을 하지 못하실 거라는 점입니다. 어쩌면 그것은 단지 여러분이 이미 그런 경험을 해봤기 때문일 수도 있지만, 이제는 많은 사람들이 그러한 경험을 해 왔습니다.

제 생각에는 평균적인 Google AI Overviews 사용자 앞에 GPT-4급 모델을 놓는다면, 그들은 더 이상 무슨 일이 일어나고 있는지 혼란스러워하지 않을 것입니다. 그들은 이것이 AGI로 가는 단계라고 말하지도 않을 것입니다. 바로 이러한 재설정이죠 — 모델들이 점점 더 강력해질수록 우리들의 기대치도 함께 올라가지만, 동시에 모델의 성능 역시 더욱 향상됩니다.

저는 AGI의 맥락에서 이에 대해 묻고 있습니다. 왜냐하면 “이 기계가 스스로 작동해 수많은 PHP 취약점을 찾아낼 수 있다”는 것은 일종의 지능이지만, “이 기계가 또 다른 인간과 경쟁하며 당신과 감정적 관계를 맺거나, 당신의 집사가 되거나, 그 밖의 어떤 역할을 수행할 수 있다”는 것은 전혀 다른 종류의 능력으로 느껴지기 때문입니다. 후자의 경우는 저에게는 다소 평범하게 느껴집니다.

음, 제 생각에는 그건 이미 포화 상태에 가까워요. 인간과 얼마나 더 유사하게 소통할 수 있을까요? 그 특정 기술에서는 더 발전할 여지가 별로 없어요. 제가 보기에 아직 개선의 여지가 있는 분야는 수학, 과학 등 다양한 분야에서 새로운 문제를 해결하는 능력입니다. 하지만 저는 이 모델이 인간처럼 말한다고 봐요. 제가 아는 많은 사람보다도 훨씬 더 인간답게 대화합니다. 그래서 그 점에서는 어느 정도 합격점이라고 생각합니다.

“그것은 내가 아는 많은 인간들보다 훨씬 더 인간처럼 말한다”는 것은, 하루 종일 AI 연구자들과 이야기하며 실리콘밸리에 살고 있다는 절대적인 증거입니다.

음, 이제는 모두가 마치 Claude처럼 말하곤 해요. 파티에서 누군가와 대화를 나누다가 그들이 “이제 그건 핵심적인 사실이네요.”라고 하거나, “그게 당신에게 잘 전달되길 바라요.”라고 말하는 횟수를 더 이상 세지 않게 되었어요.

그건 정말 안 좋네요. 그에 대해 좀 알려주세요. 정말 서로 맞받아치는 양상이죠. 저와 케이시는 늘 농담처럼 “뉴욕 대 캘리포니아”라는 쇼를 하나 만들자고 말해 왔는데, 제가 이런 주장들에 대해 솔직히 회의적인 태도를 보이고, 여러분은 완전히 AGI에 흠뻑 빠져 있는 그런 모습을 담으면 되겠죠. 이게 바로 하나의 문화이고, 하나의 풍경입니다.

당신의 책에 등장하는 파티의 수는 놀라울 정도입니다. 책을 읽다가 “내가 파티에 충분히 가지 않는 것 같아”라고 생각한 순간도 있었어요. 이 모든 사람들이 늘 파티에 모여 서로에게 선언을 내리고 있더군요. 그 문화와 그 풍경에 대해 말씀해 주세요.

따라서 이러한 행사는 뉴욕 사람들이 일반적으로 생각하는 파티와는 다를 수 있다는 점을 알아두는 것이 중요합니다. 레이브는 매우 드물며, 책에는 단 한 번의 레이브만 등장합니다. 그레이엄스가 DJ로 참여했고, 이는 사실상 가속주의 운동을 상징하는 일종의 레이브였습니다.

이 장면은 책에서 매우 인상적인데, 그라임스가 자신의 디제잉 공연 도중에 멈춰 서서 이렇게 말하기 때문이다. “저는 여러분 중 누구와도 동의하지 않습니다.”

[웃음] 그러고 나서 그녀는 계속 DJ를 하더군요. 네, 정말 놀라운 일이죠. 하지만 맞아요, 파티가 정말 많거든요. 세상은 참 작습니다. 그러니까, 그게 바로 이 책에서 얻을 수 있는 핵심 메시지 중 하나이기도 합니다. 사실 이건 어떤 메시지를 전달하려는 책은 아니에요. 저는 누구도 설득하려고 한 건 아니었어요.

하지만 제가 분명히 느꼈고, 책을 읽는 사람들도 분명히 알게 될 것이라고 생각하는 한 가지는, 모든 결정을 내려온 소수의 하위 문화가 존재한다는 점입니다. 그들은 모두 어울리며 서로를 잘 알고 있습니다. 여러 개의 프런티어 AI 기업에서 일하는 사람들과 결혼했거나 사귀는 이들도 많습니다. 정말 작은 세계인 셈이죠.

그래서, 네, 파티가 있죠. LAN 파티도 열리고요. 주말마다 LAN 파티에서 에이지 오브 엠파이어를 즐기는 대규모 AI 연구자 그룹도 있어요. 방금 알게 된 사실인데, 어떤 연구실에서는 다른 연구실 사람들까지 초청해 포커 게임을 한다고 하더군요.

그래서 이 사람들은 모두 샌프란시스코에서 함께 생활하고 어울리고 있는데, 그 점을 포착하는 것이 중요하다고 생각합니다. 당신이 맞아요, 이곳은 하나의 독특한 문화권이거든요. 특유의 정신과 분위기가 존재합니다. 이 사람들은 늘 서로 어울리며 지내고, 그렇게 해서 규범이 강화되고 더 깊이 자리 잡게 됩니다.

“그것이 ‘우리는 세상을 다시 만들 수도 있다’는 말과 어떻게 충돌한다고 보십니까?” 만약 여러분이 샌프란시스코의 작은 공간에 있고 모두 함께 포커를 하고 있는데, 포커 테이블에서 나온 대화가 “우리가 아마도 마지막 남은 회사일지도 모른다”는 내용이라면, 이는 “세상에는 우리와 같은 의견을 가질 수 있는 수백억 명의 사람들이 존재한다”는 주장과 상충됩니다. 그리고 만약 그 반발을 한마디로 요약한다면, 바로 “아, 우리도 여기서 한마디 할 수 있어야 하지 않을까?”라는 생각입니다.

전적으로 동의합니다. 여기서 우리도 발언권을 가져야 한다고 생각합니다. 저는 샌프란시스코에 있는 몇백 명의 사람들이 사회가 나아가는 방향에 관한 모든 결정을 내리는 것이 바람직하다고 말하는 것이 아닙니다.

하지만 당신이 보도를 진행하면서 그 업무의 무게와 목표가 가져올 결과가 이들 개인들에게 점점 더 크게 다가오기 시작합니다. 왜냐하면 그것이 바로 이 책의 핵심 흐름이기 때문입니다. 걸린 이익은 계속해서 높아집니다. 어느 순간 세르게이 브린은 “우리는 이제 AGI에 도달할 것입니다”라고 말하며, Google 내에서 이를 공식적으로 발표합니다. 순다르 피차이는 그것이 좋은 생각인지 확신하지 못하는 듯하지만, 어쨌든 Google의 공동창업자가 Google 안에서 이를 선언하고 있는 셈입니다.

위험도는 점점 높아지고 있습니다. 그곳에 도달하기 위한 경쟁도 갈수록 치열해지고 있습니다. 하지만 저는 여전히 사람들이 맥주를 마시며 이렇게 말하는 장면이 떠오르지 않습니다: “음, 만약 돈이 없다면 어떨까요? 물리적 희소성이 사라지고 로봇들이 모든 집을 지었다면요?”

이건 당신이 가는 샌프란시스코의 어떤 파티와도 다를 바 없습니다. 누군가는 “AGI 이후의 미래에 대한 당신의 계획은 무엇입니까?”라는 식의 질문을 던지거나, 자신이 전뇌 시뮬레이션이나 마음 업로드 개념에 정말 매료되어 있다고 말할 겁니다. 이곳에서는 많은 미래학적 논의가 오고갑니다. 그리고 다시 말씀드리지만, 이것이 좋은 일이라고 말하는 건 아닙니다. 사실, 저는 이 책의 베이 지역 외 판본에서 모든 사실적 주장 뒤에 “이는 나쁜 일입니다”라는 부연만 달아놓는 버전을 내놓아야 할지도 모릅니다.

[웃음] 저는 그것이 좋거나 나쁘다고 생각하지 않습니다. 사실 저는 그 점에 대해 좀 더 중립적입니다. 저는 늘 기술이 그 압력을 견딜 수 있는지 궁금해합니다. 그래서 3년 전에 LLM에 대해 했던 질문은 “그것이 당신이 원하는 모든 일을 해낼 수 있을까?”였습니다. 지금은 분명히 당신이 원하는 일정한 범위의 일을 해낼 수 있습니다. 그러니 이제는 “이들 기업들이 자신들의 야망이라는 무게를 감당할 수 있을까?”라는 질문으로 바뀌었습니다. 이 질문에 대한 답은 저도 모릅니다.

저도 그렇습니다. 그리고 저는 앞으로 많은 성장통을 겪게 될 것이라고 생각합니다. 그러니까, 이들 기업은 아직 매우 초기 단계에 있으며, 앞으로도 성장할 여지가 많습니다.

그들이 성공할 거라고 생각하십니까? 사실, 간단히 라이트닝 라운드로 진행해 보겠습니다. OpenAI가 성공할 거라고 생각하십니까?

네.

Anthropic가 성공할 수 있을 것 같습니까?

네.

Google이 성공할 수 있을 것 같습니까?

네.

당신이 생각하는 ‘make it’은 무엇을 의미하나요? 그들 모두가 트릴리언 달러 규모의 다중 AGI 변종 성공 사례가 될 것이라는 뜻인가요?

네. 제 생각에는, 음… 아마도 그 세 가지가 있을 테고, 여기에 더해 ‘성공’의 기준에 따라 또 한두 개 정도가 추가될 수 있겠죠. 그리고 이 시장에서는 대기업급 인공지능 기업 한두 곳과 소비자 지향형 인공지능 기업 한두 곳이 존재할 겁니다. 하지만 이러한 시장에서는 네트워크 효과와 승자독식 혹은 승자다수 독식의 역학이 작용하기 마련입니다.

일각에서는 단일 AGI, 즉 ‘싱글턴 이론’이라고도 불리는 관점에 동의합니다. 이 이론에 따르면, 일단 하나의 AGI가 등장하면 다른 AI 연구소들의 칩을 녹여버릴 것이고, 그 결과 그들은 자신들의 AGI를 구축할 수 없게 될 것이라는 주장입니다. 하지만 저는 우리가 결국 소수의 AGI들만 존재하게 될 가능성이 높다고 생각합니다.

이것이 상당히 간단한 레시피이며, 오픈 웨이트 모델들이 존재하고 중국 시장도 있으며, 중급형 오픈 웨이트 모델이 맥에서 당신이 원하는 대부분의 기능을 모두 수행할 수 있기 때문에 가격 결정권이 전부 사라질 것이라는 생각에 대해 어떻게 보십니까?

그렇지는 않을 것 같아요.

아니요?

왜냐하면 그러한 모델들에 대한 추론 비용은 여전히 지불해야 하기 때문입니다. 심지어 오픈 웨이트 모델조차도 컴퓨터에서 실행되어야 하며, 이러한 모델들이 점점 더 최첨단으로 나아갈수록 추론은 오히려 컴퓨팅 집약도가 높아지고 있습니다. 따라서 학습 예산은 줄어들 수 있지만, 추론 예산은 당분간은 견고하게 유지될 것입니다. 일부 작업은 로컬에서 수행할 수도 있지만, 이는 최초의 오픈 웨이트 모델들이 등장했을 때부터 이미 예측되어 온 현상이라고 생각합니다. 즉, “그것들은 상품화되어 수요를 사라지게 만들 것”이라는 전망이었습니다.

하지만 우리가 이제 알기 시작한 것은, 최고의 모델에 대해 기꺼이 지불하고자 하는 사람들이 많다는 점입니다. 그들은 6개월 전의 다소 성능이 떨어지는 모델을 사용하려 하지 않습니다. 또한, 디스틸레이션—즉, 닫힌 모델을 가져와 더 똑똑한 모델의 추론 서비스를 DDoS 공격으로 압도함으로써 약간 덜 정교한 개방형 버전을 만드는 과정—을 엄격히 규제하게 되면, 개방형 모델의 품질이 닫힌 모델의 품질과 계속해서 밀접하게 연관될 것인지 의문입니다.

그 점에서 정말 눈에 띄는 건, 그들 모두가 한동안 서로에게 똑같은 일을 했다는 사실입니다. 예를 들어 Grok은 분명히 Claude를 증류했고, 이는 법원 문서에서도 인정되고 있습니다. 또한 2급 기업이라는 범주도 존재합니다. 저는 SpaceXSI도 그 범주에 포함시킬 수 있다고 생각합니다. 현재는 기술적으로 그렇게 알려져 있는 것으로 알고 있습니다.

[웃음] 지난 30분 동안 이메일을 확인하지 않았으니, 그 회사 이름이 뭐였는지 모르겠네요.

그것은 SpaceXSITesla Inc.라고 불립니다. 모든 것이 하나로 통합될 것입니다. 엘론 Inc.라는 이름이죠. 분명히 그들은 Claude를 상당히 축약했습니다. 이제는 자사의 컴퓨팅 파워를 Anthropic에 임대하고 있습니다. 선도적인 모델을 보유하기 위한 투자를 할지는 아직 불분명합니다.

메타는 방금 자사의 모델을 발표했으며, 이로써 어느 정도 다시 최첨단에 서게 되었지만, 분명히 그들은 최첨단 모델을 갖는 것보다 뮤즈에 더 큰 관심을 두고 있습니다. 여기에는 다소 역동적인 요인이 존재합니다. 저에게는 그러한 기업들이 이상주의적이고 신념에 충실한 사람들에 의해 운영되고 있다고 보이지 않습니다. 이들 기업은 어떤 제품을 개발하기 위해 특정 기술에 투자해야 하며, 단지 그 지점에 도달하기를 원할 뿐입니다.

이상주의적 열정 없이도 그곳에 도달할 수 있을까요?

아니요, 이상주의적 열정 없이는 그곳에 도달할 수 없습니다. 음, 이 점을 좀 더 명확히 하자면, 순다르는 이상주의적 열정이 없다고 생각하지만, Google은 여전히 그곳에 도달할 수 있을지도 모릅니다.

세르게이는 이상주의적인 열정을 지니고 있기 때문이다.

결정권을 가진 사람이 필요합니다.

당신은 그 회사의 공동창업자만 필요합니다.

음, 메타가 모든 면에서 진정한 신봉자인 알렉산드르 왕을 두고 있는 것만으로도 충분할 수 있습니다. 매번 반드시 최고경영자가 그럴 필요는 없다고 생각하지만, GPU에 막대한 비용을 투자하도록 설득하려면 진정한 신봉자들로 이루어진 단단한 핵심 집단이 필요합니다.

아니면 그저 마크 저커버그와 같은, 세계에서 가장 경쟁적인 인물 중 한 명인 사람을 필요로 할 뿐일 수도 있습니다. 그는 자신이 승리할 수 있다고 생각하는 어떤 전략이든 곧바로 채택할 것입니다. 만약 그것이 AGI 구축과 맞닿아 있다면, 어쩌면 그들은 그렇게 할지도 모릅니다.

마지막 질문입니다: 이 문제를 여러 번 물어봤지만, 당신은 AGI 펠링을 받았나요?

네. 당신이요?

아니요. 당신의 책을 읽었는데, 그 내용은 제가 지금까지 접한 것들 중 가장 가깝습니다. 다음 토큰 예측에 관한 그 구절이 늘 회의론자들을 이겨내는 모습이 저에게 큰 울림을 주었는데, 실제로 저 역시 여러 차례나 그 회의를 극복했으니까요.

하지만 이것이 바로 제가 3년 전부터 챗봇과 대화하는 것에 대해 물어보던 이유입니다. 저는 이들 기술이 지닌 일종의 한계를 느낍니다. 비록 제가 다양한 작업을 수행하도록 에이전트들을 배치해 왔지만, 그 안에는 저에게는 이 기술 고유로 보이는 취약성이 존재합니다.

밀레니엄 상 수상 해결책이 그 견해를 전혀 바꾸었을까요?

다만, 다음에 등장할 어떤 대상이 객관적 검증 가능성을 지닌다는 점에서만 이들 도구에게는 매우 풍부한 의미로 다가옵니다. 따라서 분명히 수학은 검증 가능성을 갖추고 있으며, 이러한 도구들은 그 문제를 매우, 매우 강력하게 처리할 수 있을 만큼 발전했습니다. 제가 설명하는 취약성은, 우리 주변의 많은 것들이 그러한 검증 가능성을 갖추지 못한다는 데에 있습니다.

그래서 저는 Muse를 실행해 어떤 불편한 정부 웹사이트에서 문서를 작성하도록 했는데, 그 웹사이트는 Muse가 무엇을 올바르게 입력했는지, 무엇을 잘못 입력했는지를 알려주지 못하고 그냥 멈춰버렸습니다. 이는 근본적인 모델이 최첨단 수준에 도달하지 못한 탓이라고 할 수도 있지만, LLM 기반 기술을 사용할 때 느끼는 특정한 한계 때문에 저에게는 여전히 취약하다는 인식이 남아 있으며, 아직까지도 그러한 느낌을 완전히 극복하지 못했습니다.

저는 그들이 매우 뛰어나지 않다고 말하는 것이 아닙니다. 기업용 소프트웨어로서, 그들이 어떤 방식으로든 전 세계의 거의 모든 비즈니스를 자동화하지 않을 것이라고 말하는 것도 아닙니다. 또한 제 아내가 매일 Claude를 사용하는 변호사라는 사실도 부정하는 것이 아닙니다. 모든 것이 다 있습니다.

하지만 그 중에서도 제가 의심하는 부분은, 과연 이 기계가 취약함을 극복하고 진정한 ‘기계의 신’으로 거듭날 수 있을지 여부입니다. 그들이 과연 이를 가능하게 할지 지켜보는 데 흥미를 느끼지만, 현재 제 입장에서는 그 길이 보이지 않습니다.

인간 수준의 지능 바로 아래쯤에 일종의 자연스러운 정체기가 있다고 생각하십니까?

저는 인간 수준의 지능이란, 이는 다소 철학적인 논의에 불과하지만, 새로운 문제를 해결하는 능력으로 정의된다고 생각합니다. 즉, 어떤 문제를 바라보았을 때, 해법으로 이어지는 여러 가지 경로가 존재함을 이해하고, 그 중 어느 하나가 반드시 객관적으로 옳아야만 최종 목표에 도달할 수 있는 것이 아니라는 점입니다.

무엇이 필요할까요? 어떤 것을 보아야 비로소 눈에 씌워진 망사가 벗겨지고, “나, 닐레이 파텔은 완전히 AGI의 영향을 받았다”고 깨닫게 될까요? 무엇이 당신을 설득할 수 있을까요?

저는 직접 봐야겠네요… 당신에게는 어린 자녀들이 있고, 저에게도 어린 자녀들이 있습니다. 어린 아이들이 계단에서 넘어질 때면, 마치 모든 불이 켜지는 것처럼 보이는 순간이 있죠. “이걸 배웠으니 평생 잊지 않을 거야, 그리고 이제 그 기반 위에 더 발전시켜 나가겠어.”

아마도 AI 연구소에서 재귀적 자기 개선을 발표하게 될지도 모르고, 그때가 바로 내 눈에 막힌 장애물이 사라지는 순간일 겁니다. 하지만 제가 말하는 취약성은, 제 아이들에게서는 그와 정반대의 모습을 보게 됩니다. 여러분의 아이들에게서도 마찬가지로 반대되는 모습을 보시리라 생각합니다. 아이들은 실패를 하면, 그 실패를 영원히 기억합니다. 저에게는 인간이라는 존재의 아주 근본적인 특성이 있는데, 가끔씩 잠에서 깨어나 고등학교 시절에 있었던 일 중 하나가 부끄러워져서, 그 일이 저를 어떤 일을 하도록 이끌거나, 혹은 어떤 결정을 내리지 않도록 만드는 것입니다.

저는 그것이 바로 우리 지능의 핵심 요소라고 생각합니다. 모든 지능의 핵심이 되어야 한다고 말하는 것은 아니지만, 오늘날 제가 사용하는 AI 시스템들에서 보이는 취약성은 이들이 여전히 매우 특정한 방식으로 컴퓨터에 불과하다는 점입니다. 이들은 여전히 컴퓨터처럼 작동하며, 검증 가능한 문제를 해결하는 데 능숙하고 소프트웨어 엔지니어링에도 강합니다. 하지만 이러한 사고방식이 모든 분야로까지 확장될 수 있을지는 잘 모르겠습니다.

당신이 옳길 바랍니다.

그게 바로 제 견해입니다. 저는 이를 ‘소프트웨어 두뇌’라고 부릅니다. AI 최고경영자가 “우리는 코딩 문제를 해결했고, 이제는 모든 문제를 해결할 수 있습니다.”라고 말하는 것을 들을 수 있죠. 하지만 제 생각에는, 그 발언은 모든 일이 컴퓨터 안에서만 일어난다고 전제하고 있는데, 실제로는 대부분의 일들이 그렇지 않다는 점을 간과하고 있다고 봅니다.

정말이야? 정말 네 뇌가 단지 살로 된 컴퓨터에 불과하지 않다는 거야?

저는 그 점에 대해 100퍼센트 확신합니다.

당신은 계산적 기능주의자가 아니신가요?

아니요. 예전에도 당신에게서 이런 얘기를 들은 적이 있고, 다른 사람들에게서도 분명히 들어왔습니다. 바로 우리 시대의 기계들이 우리 스스로에 대한 설명을 지배하고 있다는 점이죠. 그래서 증기기관 시대에는 우리의 자아상이 ‘우리는 증기기관이다’였고, 초기 컴퓨터 시대에는 ‘우리는 초기 컴퓨터다’였던 거죠, 맞나요? 저는 여전히 그걸 ‘문제를 말로 풀어내는 것’이라고 부릅니다. 제가 차를 좋아하는 사람이니까요.

AI 산업이 자신들이 바로 우리 시대의 기계이기 때문에 스스로를 AI라고 믿게 되었다고는 생각하지 않으시나요?

저는 잘 모르겠습니다. 저는 마음 이론 전문가도 아니고, 인지 신경과학자도 아닙니다. 제 생각에는, 지금 여러분의 머릿속과 저의 머릿속에서 일어나고 있는 일이 계산의 한 형태가 아니라고 믿으려면, 다소 이원론자이거나 종교적인 사람이어야 할 것입니다. 단순히 데이터가 들어오고 처리되어 입력을 출력으로 변환하는 과정에 그치지 않는, 어떤 영혼이나 정신, 혹은 인식의 비밀스러운 요소가 존재한다고 생각해야만 합니다.

보세요, 인간의 인지가 무엇인지 설명하는 데 있어 그것이 가장 로맨틱하지 않고 가장 샌프란시스코스러운 방식이라는 점은 저도 알고 있습니다. 다만, 우리 뇌가 그렇게 작동한다는 주장을 설득력 있게 뒷받침하는 논거 중에서 어떤 초자연적이거나 비물질적인 실체를 언급하지 않는 경우는 아직 들어본 적이 없습니다.

이 프로그램을 듣는 신경과학자와 종교학자들이 의외로 많습니다. 그들이 당신을 찾아올 것입니다.

그들은 할 것입니다.

저는 자신 있습니다. 한 가지 질문을 드리겠습니다. 현재 실리콘밸리에는 예상외로 많은 종교적 분위기가 감도는 것 같습니다. 저희는 최근 The Verge에 피터 틸의 강연을 게재했는데, 그는 적그리스도에 대해 이야기하고 있습니다. 이러한 생각들 사이에 어떤 연관성이 있다고 보시나요? 우리가 마치 신을 창조하듯이, 그래서 사람들이 신을 찾게 되는 건 아닐까요?

네. 저는 분명히 AI 종교가 등장할 것이라고 생각합니다. AI는 우리가 원래 신에게 묻지 않았을 법한 질문들—“우리의 목적은 무엇인가? 우리의 의미는 무엇인가? 우리는 왜 여기에 있는가?”—을 모두 제기하고 있습니다. 이러한 질문들은 오늘날 사람들이 AI의 맥락에서 논의하는 주제들이기도 합니다.

저는 종종 사람들에게 요즘 샌프란시스코에 있으면 마치 종교개혁 시대의 유럽에 사는 것 같다고 말합니다. 그때는 미친 듯이 눈빛을 번뜩이는 예언자들이 팸플릿을 휘두르며 여러분을 자기들의 운동에 참여시키려 애썼죠. 바로 샌프란시스코의 마켓 스트리트를 걷는 기분이 그런 겁니다.

무엇이 당신의 눈에서 막을 벗겨냈나요? 무엇이 당신을 AGI-피일하게 했나요?

빙의 시드니, 믿기 어렵겠지만.

그래요?

제 말은, 그게 시작이었어요. 그리고 그 다음부터는 그냥 조금씩 점진적인 과정이었습니다. 어느 날 제가 이런 것들을 사용하면서, 더 이상 그것들을 지적 열등한 존재로 대하지 않고, 어떤 면에서는 동등한 존재로 대하고 있다는 걸 깨달았고, 그때 비로소 ‘아, 여기서 뭔가 변화가 생겼구나’라고 느꼈습니다.

그래서 제가 AI 정신병을 앓고 있을지도 모릅니다. 이런 얘기를 들은 게 처음은 아니지만, 매번 “좋아, 이보다 더 나아질 수는 없겠지, 이제 정체기가 온 거야”라고 생각했을 때마다 저는 틀렸습니다.

그래서 저는 이제 이런 문제들을 조금 더 겸허한 자세로 접근하는 법을 배우고 있습니다. 그리고 어쩌면 규모 확장이 무한히 지속될 것이라고 예측해 온 일부 광신자들이 맞을지도 모릅니다. 만약 그렇다면, 우리는 먼저 그들의 주장과 그들이 그렇게 생각하는 이유를 이해하고, 나아가 이에 대해 어떻게 대응해야 할지 고민해 보아야 한다고 생각합니다.

음, 케빈, 다음에 다시 저희 프로그램에 나오실 때쯤이면, 저는 [사용자 생성 콘텐츠] 광고로 수익을 창출하는 완전한 AI 인플루언서를 이미 구축해 놓았을 거예요. 그것이야말로 제 생각엔 우리 모든 비즈니스의 진정한 미래라고 봐요.

그 팟캐스트는 ‘머신 갓스’입니다. 정말 훌륭하죠. 케이시 뉴턴과 함께 진행하시고요. 그리고 그 책도 아주 훌륭합니다. ‘AGI 크로니클스’입니다. 케빈, 디코더에 출연해 주셔서 대단히 감사드립니다.

감사합니다. 만나 뵙게 되어 정말 좋았습니다.

질문이나 의견이 있으신가요? decoder@theverge.com으로 연락해 주세요. 저희는 모든 이메일을 꼭 읽습니다!