(본 기사의 저자는 Tech비즈니스이며, 타이미디어가 승인을 받아 게재했습니다)
글 | 테크 비즈니스
인터넷의 황금 10년 동안, 바이트댄스는 신과도 같은 조직 기계로 추앙받아 왔습니다. ‘앱 공장’ 모델과 수평적이고 민첩한 개발 체계, 그리고 극도로 치열한 ‘경주 제도’를 바탕으로, 텐센트와 알리바바의 겹겹이 둘러싼 압박 속에서도 단숨에 틱톡과 같은 글로벌급 거대 플랫폼을 탄생시켰습니다.
하지만 이 회사가 가장 화려한 자금과 최고 수준의 연산 능력, 그리고 가장 방대한 인재풀을 앞세워 대규모 언어 모델 시대에 뛰어들었을 때, 과거의 ‘신병무기’는 오히려 자신을 향한 가장 깊은 약점으로 작용하게 되었다.
최근 X 플랫폼에서 바이트의 Seed 팀을 둘러싼 한 논의가, 대규모 언어 모델 열풍 이면에 숨겨진 가장 냉혹한 조직적 망신스러움을 드러냈다. 폭로자는 단도직입적으로 지적했다: Seed는 우수한 인재와 막대한 연산 자원을 보유하고 있지만, LLM(대규모 언어 모델)의 발전 속도는 여전히 더디다. 그 원인은 기술적 한계가 아니라 조직적 문제—바이트의 ‘경주마’식 경쟁 구조가 대규모 언어 모델 개발에 전혀 맞지 않는다는 점이다.
앞서 공개된 보도에서 바이트댄스의 Seed 팀이 ‘독극물 투입’을 훈련한 사건 당사자의 진술과, 댓글란에서 논의된 ‘대규모 모델의 중공업형 생산 라인’에 관한 내용을 종합해 보면, 지극히 부조리한 현실이 드러난다. 인류 역사상 가장 복잡한 시스템 엔지니어링인 대규모 모델이라는 과제 앞에서, 바이트댄스가 자랑하는 ‘레이스’는 AGI로 이어지는 로켓을 띄워 올릴 수 없다는 것이다.
이미지 출처: 트위터
“경마”가 “중공업”과 맞닥뜨릴 때
대기업의 고위 경영진들은 흔히 치명적인 경로 의존성을 갖고 있다: 그들은 대규모 언어 모델을 단지 더 복잡한 또 하나의 앱에 불과하다고 여기며, 충분한 규모의 팀을 투입해 서로 경쟁시키고 내부적으로 격돌하게 하면 가장 강력한 모델을 만들어낼 수 있다고 믿는다.
이는 모바일 인터넷 시대가 남긴 사상의 강철판입니다.
댓글란의 한 업계 종사자가 정곡을 찌르며 이렇게 요약했듯이: “대규모 모델의 사전훈련은 본질적으로 정밀 중공업과 유사한 라인 생산 공정입니다. 토큰화와 필터링, 데이터 배분 비율 조정부터 수천 카드·수만 카드 규모의 토폴로지에 따른 통신 최적화에 이르기까지, 모든 단계가 빈틈없이 맞물려야 하며 전반적인 협력이 필요합니다.”
이 중공업 체계에서는 각자 따로 움직이는 방식은 결코 용납되지 않습니다. 수만 대의 GPU를 통합적으로 조율하고, 수십조 개에 달하는 토큰을 일관되게 정제하며, 하부 인프라(Appliances) 아키텍처를 통일적으로 맞추는 고도로 집권화된 지휘부가 필요합니다. 사소한 데이터 비율 오류 하나나, 수천 카드 규모의 클러스터에서 케이블 한 가닥이 느슨해지는 것만으로도 수개월에 걸쳐 수천만 달러가 드는 학습 과정이 완전히 무너질 수 있습니다.
그리고 ‘경주마 메커니즘’의 핵심은 무엇일까요? 바로 작은 단계로 빠르게 나아가는 것, 자원 격리, 팀 내 과열 경쟁, 그리고 승자 지상주의입니다.
모바일 인터넷의 경주마식 경쟁 구조를 전역적 협업이 필요한 초대형 클러스터 개발에 무리하게 적용한 결과, 본래 집중된 역량으로 큰 일을 해내야 할 ‘슈퍼 컴퓨팅 파워 풀’이 각자 고립된 ‘리소스 섬’으로 분열되고 말았습니다.
폭로에서는 바이트 내부에서 자원 과잉 확보가 일상화되어 있다고 언급된다. 이미 컴퓨팅 파워를 선점한 팀들은 설령 해당 파워가 유휴 상태일지라도 차라리 손에 쥐고 있기를 원할 뿐, 다른 팀과 공유하는 것을 결코 원하지 않는다. 모두가 옆 팀이 자신보다 더 좋은 성과를 내는 것에 대해 경계하고 있으며, 정보가 불투명하고 소통에는 서로에 대한 경계가 가득하며, 심지어 핵심 코드와 데이터마저 서로 숨기고 있다.
이는 비트바이트만의 고질적인 문제는 아니다. 폭로자는 덤으로 실리콘밸리의 거대 기업들에도 유사한 문제가 있다고 언급했다. 구글 내부에서는 Gemini를 개발하는 팀이 GPU 부족을 호소하는 반면, 수익을 창출하는 광고팀은 막대한 양의 GPU를 보유하고 있는데, 외부에서는 이들이 과연 그 컴퓨팅 파워를 무엇에 사용하는지 알 수 없다. 다만, 구글 내부의 컴퓨팅 자원 배분에 관한 이 구체적인 주장은 현재까지는 폭로자의 전달에 불과하며, 독립적인 제3자 출처에 의해 확인된 바는 없다. 그럼에도 불구하고, 이 주장이 지적하는 부서 간의 장벽과 각 부서의 이기주의는 대규모 모델 시대에서 발생하는 막대한 매몰비용이라는 점은 분명하다.
반년 동안 정리한 데이터를 누가 책임져야 할까요?
대규모 모델의 개발은 ‘크기’뿐만 아니라 ‘정숙함’도 필요합니다. 프런트엔드 코드를 작성할 때처럼 즉각적으로 멋진 UI 반응을 확인할 수 있는 것이 아니며, 대량의 지루한 데이터 정제와 번거로운 통신 튜닝이 요구됩니다.
그리고 대기업에서 극심한 내부 경쟁이 벌어지는 KPI/OKR 체계 하에서는, 이러한 ‘조용함’은 허용되지 않는다.
폭로에서는 연구개발 인력들의 매우 현실적인 애로사항이 묘사된다: LLM을 개발하는 데는 그토록 많은 ‘천재적 순간’이 필요하지 않다. 진정한 업무란 데이터와 환경을 꼼꼼히 맞추는 것이며, 인프라의 효율성을 끝까지 채워나가는 일이다. 하지만 최고 수준의 천재들로 구성된 이들 연구개발진은 본질적으로 혁신을 갈망하고 프로젝트를 이끌어 나가고자 하는 열망을 품고 있다.
“몇 달마다 한 번씩 평가하는 OKR까지 더하면, 저는 지난 반년 내내 불량 데이터를 정리하느라 바빴는데, 연말에 OKR은 도대체 어떻게 작성해야 할까요?” 이는 하나의 딱 막힌 지점입니다.
기존의 성과 평가 체계 하에서는, 데이터 정제, 오류 탐지, 통신 최적화 등 대규모 모델의 하한을 실제로 결정하는 ‘고된 막일’들은 결코 보기 좋은 보고용 PPT나 유수 학회 논문으로는 전환될 수 없습니다. 만약 직원들이 OKR을 달성하기 위해 가장 눈에 띄고 논문 발표가 쉬운 아키텍처 혁신에만 집중한다면, 그 고된 일은 과연 누가 맡게 될까요?
아무도 하지 않으면, 모델은 유해한 데이터를 학습하게 되고 결국 재앙으로 이어질 수 있습니다.
앞서 업계에 큰 충격을 안긴 바이트의 Seed 팀 훈련 ‘투독’ 사건은 바로 이러한 극단적인 과열 경쟁과 조직 간 단절의 산물이다. 가장 직접적인 피해자인 전 직원 ShoufaChen은 회고에서 수개월에 걸친 조사, 대립, 의혹 제기의 시간을 매우 고통스럽게 묘사했다. 몇 달 동안 팀은 매일 모델 성능의 기이한 붕괴와 서로의 업무상 실수를 둘러싼 상호 비난 속에서 지냈다.
공개 보도에 따르면, 이는 단순한 기술적 버그가 아니라 전직 인턴이 훈련 환경에서 자행한 체계적인 파괴 행위였다: 하부 코드를 변조하고, 훈련 프로세스를 무작위로 중단시키며, 백도어를 심고, 장애를 우발적 사고로 위장했다. 팀 간에 자원을 놓고 서로 경계하고, 연구원들이 자신의 프로젝트를 지키기 위해 실제 데이터 오류를 은폐하는 상황에서는, 거대한 대형 모델이 자신도 모르는 사이에 붕괴로 치닫게 된다. 대기업의 OKR 체계는 본래 인간의 잠재력을 촉진하기 위한 것이었지만, 결국에는 인간 본성 가운데 가장 근시안적이고 이기적인 면만을 부추겼다.
누락된 “Research Group”
더 흥미로운 점은 또 다른 댓글에서 나온 말이다: “바이트는 가장 많은 자원을 보유하고 있지만, 진정한 리서치 그룹(연구팀)은 하나도 없다.”
이 회사는 지난 몇 년간 기술 블로그에서 매우 화려한 성과를 내며 수많은 우수한 인프라 프레임워크와 저수준 알고리즘을 발표해 왔습니다. 그러나 자세히 살펴보면, 이들의 기술적 성과와 실제 투입된 연산 리소스 간에는 극도로 불일치하는 비선형 관계가 존재하는 것으로 보입니다. 수만 대의 GPU를 투입했음에도 불구하고, 얻어지는 결과는 종종 국부적인 최적화에 그친 ‘작은 엔지니어링 성과’에 지나지 않으며, 근본적인 ‘패러다임의 큰 돌파’로 이어지지는 않는 듯합니다.
왜일까요? 대기업의 ‘연구원’은 많은 경우 여전히 비즈니스 부서의 하위 조직에 불과하기 때문입니다. 이들은 “최첨단이면서도 실질적인 적용”을 요구받습니다. 최고 학회 논문을 발표해 기술력을 입증해야 하는 동시에, 곧바로 틱톡에 연동해 광고 추천 기능을 구현할 수 있어야 합니다. 이러한 ‘둘 다’라는 모순된 상황 때문에 연구원들은 한 가지 방향에 장기적으로 집중하지 못합니다.
하지만 대규모 모델 시대에는 진정한 연구란 ‘비용을 아끼지 않는 시행착오’와 ‘장기적 관점에서의 관용’이 필요하다.
마이크로소프트는 OpenAI에 최고 수준의 슈퍼컴퓨팅 센터를 구축해 주었고, 그들이 몇 년간 고군분투한 끝에야 비로소 GPT-4를 탄생시켰다. 반면 DeepSeek는 환팡의 지원을 받으며, 극도로 유연한 컴퓨팅 자원의 여유와 매우 수평적인 개발자 중심의 기업 문화를 갖추고 있어, 단지 수십 명 규모의 소규모 팀만으로도 MoE 아키텍처 하나에 대한 집념을 끝까지 밀어붙일 수 있다. 반면 대기업에서는 컴퓨팅 자원의 자유로운 배분 권한을 해결하지 않고, 단기적인 DAU 지표에만 매달리는 성과 평가 시스템을 도입하지 않는다면, 천재들은 결국 데이터 정제를 담당하는 고급 생산라인 노동자로 전락하거나, GPU를 차지하기 위한 내부 경쟁에 휘말리는 사무실 정치꾼으로 전락할 뿐이다.
주목할 만한 점은, 공개 보도에 따르면 바이트는 이후 Seed 팀의 조직 통합을 추진하고 Seed Edge 프로젝트의 분기별 OKR과 반기 평가를 폐지했다는 것이다. 이는 기존의 ‘경쟁 시스템+단기 주기 평가’ 방식이 더 이상 지속하기 어려워졌음을 간접적으로 보여준다.
맺음말: ‘앱 공장’을告别하고, ‘대형 플랫폼’을 재구성하다
사실, 이는 바이트만의 문제가 아닙니다. 알리바바, 텐센트, 구글 등, ‘앱 공장’이라는 오래된 용기로 ‘대규모 언어 모델’이라는 새로운 술을 담으려는 전통적인 거대 기업들 모두가 고통스러운 진통을 겪고 있습니다.
대규모 모델은 몇 줄의 프런트엔드 코드만으로 바로 서비스에 올릴 수 있는 작은 애플리케이션이 아닙니다. 이는 인간 지식을 극한까지 압축한 초거대 엔지니어링 프로젝트로서, 매우 거대하고 치열하며 극도의 단결을 요구하는 핵융합과도 같습니다. 이를 구현하려면 기업은 하드웨어 수준의 저층 스케줄링 역량을 갖추어야 하고, 장기간의 ‘무산출’ 상태를 감내해야 하며, 나아가 단기 재무 성과를 넘어선 극단적인 신념이 필요합니다.
만약 대형 기업들이 여전히 ‘내부 경쟁’, ‘OKR로 생산성 강요’, ‘각자 제 앞가림’이라는 인터넷 업계의 구시대적 사고방식을 고수한다면, 수만 대에 달하는 연산 카드를 보유하고 있더라도 결국에는 상대적으로 부족하고 하위와는 격차가 큰 ‘자원 고립체’에 그칠 뿐입니다.
미래의 승자는 반드시 그래픽 카드를 가장 많이 보유한 기업일 수는 없지만, 분명히 오래된 부서 간 벽을 과감히 깨고 모든 연산력을 하나로 결집하며, 천재들이 기꺼이 1년 동안 데이터 정제 작업을 맡도록 만드는 조직일 것이다. 결국 연산력은 돈으로 구매할 수 있지만, 실리콘 기반 생명체의 진화 논리를 적합하게 반영한 ‘연구 산업 시스템’을 구축하려면 뼈를 깎는 자기 혁신이 필요하다. 운영체제를 바꾸지 않는 한, 대형 기업들은 AGI라는 좁은 문으로 들어갈 수 없다.
이 기사는 위챗 공식 계정 ‘Tech 비즈니스’에서 발행되었으며, 작성자는 Tech 비즈니스입니다. 승인을 받아 게시되었습니다.
더욱 흥미로운 콘텐츠를 만나려면 타이미디어 위챗 공식 계정(ID: taimeiti)을 팔로우하거나, 타이미디어 앱을 다운로드해 주세요.