업데이트됨 17:29 EDT / 2026년 10월 26일
기업들이 AI 실험에서 자율 운영으로 전환하는 과정에서 주목해야 할 점
제우스 커라발라의 게스트 칼럼
지난 3년간 기업용 인공지능 대화 분야는 주로 모델이 무엇을 말할 수 있는지에 초점을 맞춰 왔습니다. 앞으로 3년은 시스템이 어떤 일을 할 수 있도록 허용될 것인지에 관한 논의가 될 것입니다. 이는 더 나은 모델만으로는 해결할 수 없는 보다 어려운 문제입니다.
수요일인 10월 28일, 저는 휴렛팩커드 엔터프라이즈가 후원하는 블룸버그 테크 이벤트 ‘에이전틱 엔터프라이즈 구축’ 행사에 참석하기 위해 보스턴에 머물 예정입니다. 이번 행사의 의제는 에이전틱 AI를 도입하고 이를 실제 환경에서 활용할 계획인 관계자들을 중심으로 구성되어 있습니다. 여기에는 메르세데스-벤츠 노스아메리카 및 기타 기업의 최고정보책임자(CIO), 부킹 홀딩스와 카니발 코퍼레이션의 최고보안책임자(CSO), 에스티 로더 그룹의 데이터·분석·AI 담당 책임자, 그리고 HPE의 글로벌 네트워킹 분야 최고기술책임자인 제임스 로버트슨 등이 포함됩니다.
기업의 참여는 중요합니다. 공급업체들은 자율 운영에 대해 이야기할 수 있지만, 언제 어떻게 이를 활성화할지 결정하는 것은 결국 운영자들입니다.
이 행사는 HPE의 네트워킹 투자자 데이 이후 한 달 만에 열렸으며, 당시 회사는 네트워크가 더 이상 단순한 인프라 역할을 넘어 AI를 위한 전략적 인프라로 변화했다고 주장했습니다. “AI는 기술 스택을 재편하고 있으며, 이로 인해 네트워크의 전략적 중요성이 더욱 커지고 있습니다.”라고 HPE 네트워킹의 상무이사 겸 사장 및 총괄 관리자인 라미 라힘은 말했습니다. 투자자들은 이를 성장 스토리로 받아들였습니다. 반면 CIO들은 이를 운영 모델의 관점에서 받아들여야 합니다. 왜냐하면 AI를 구동하는 인프라는 점점 더 스스로를 운영하도록 요구되고 있기 때문입니다.
다음은 CIO, CTO 및 기업 리더십에 중요한 영향을 미칠 것으로 보이는 다섯 가지 주요 이슈입니다.
문제는 통찰에서 행동으로 바뀌었습니다.
생성형 AI는 인사이트를 제공하는 것이 이제 기본이 되었습니다. 대부분의 기업들은 이제 실행할 수 있는 권장 사항보다 더 많은 권장 사항을 보유하고 있습니다. 이제 진정한 질문은 “AI가 인사이트를 생성할 수 있는가?”가 아니라, “모든 단계에서 인간의 승인 없이도 행동을 취하도록 AI 시스템을 신뢰할 수 있는가?”입니다.
불량 이메일 초안을 작성하는 AI 모델은 당혹스러운 순간을 초래합니다. 네트워크 정책을 변경하거나 트래픽을 재라우팅하거나 디바이스를 격리하는 AI 에이전트가 잘못된 판단을 내릴 경우, 기업의 시스템이 오프라인 상태로 전환될 수 있습니다. 저는 앞으로 기업들이 완전히 자동화하는 작업과 인간의 승인이 필요한 작업, 그리고 여전히 수동으로 처리해야 하는 작업 사이에 어떤 기준을 설정하는지 이해하려고 합니다.
제 경험에 따르면, 가장 앞선 기업들은 자율 운영을 단순히 켜고 끄는 스위치처럼 취급하지 않습니다. 그들은 이를 시스템이 하나씩 성장해 나가는 과정으로, 한 가지 유형의 행동부터 차근차근 도입해 나갑니다.
업타임은 잘못된 성과 지표입니다
네트워킹 인베스터 데이에서 HPE의 전무이사 겸 캠퍼스 및 지점 부문 총괄 책임자인 수자이 하젤라는 자사의 자율주행 네트워크 이면에 깔린 철학을 다음과 같이 요약했습니다: “업 상태가 곧 좋은 상태는 아니다.” AI 운영 관련 논의에서는 이 점을 반드시 염두에 두어야 합니다. 네트워크가 완전히 가용 상태라 하더라도, 여전히 화상 통화 품질이 저조하거나 AI 워크로드가 지연될 수 있습니다.
인프라의 상태를 측정하는 데서 사용자와 비즈니스의 성과를 측정하는 방식으로의 전환은 자율 운영을 위한 필수 조건입니다. 시스템이 사용자의 관점에서 문제가 어떤 모습인지 파악하지 못한다면, 스스로 문제를 해결하도록 할 수 없습니다.
투자자 데이에서 가장 좋은 사례는 한 고객으로부터 나왔다. 서비스나우(Servicenow Inc.)의 디지털 핵심 서비스 수석 이사인 사지브 네어는, 그동안 여러 개별 제품들이 “이미 파편화된 텔레메트리에 또 다른 분절을 만들어 왔다”고 설명했다. 그는 통합 이후, 연간 2,000~3,000시간이 걸리던 수작업 업무량이 이제는 60시간도 채 되지 않는다고 밝혔다.
행사에서 저는 또한 에이전틱 시대에 성공을 어떻게 정의하는지에 대해 실무자들과 이야기를 나눌 수 있기를 기대합니다. 답변은 엔지니어에게 돌아간 시간, 티켓 대기열에 도달하지 않은 이슈, 그리고 인력 감축보다는 새로운 서비스의 가치 실현 속도 향상과 같이 비즈니스를 한 단계 더 발전시키는 결과에 중점을 둘 것으로 예상합니다.
네트워크는 단순한 연결성에서 벗어나 AI 인프라로 진화하고 있습니다.
라힘은 투자자 데이에서 AI에 자금을 지원하는 모든 CIO가 반드시 유의해야 할 점을 지적했습니다. 기업들은 그래픽 처리 장치에 수십억 달러를 지출할 수 있지만, 네트워크가 성능 요구 사항을 충족하지 못한다면 “그러한 자원은 완전히 활용되지 못합니다.”
HPE의 라우팅 사업을 담당하는 AE 나타라잔은 AI 트래픽이 왜 다른지 설명했다. 업스트림과 다운스트림 트래픽의 균형이 더욱 맞춰지고, AI 트래픽은 동영상처럼 캐시할 수 없으며, 에이전트들이 24시간 내내 트래픽을 생성하기 때문이다. 그는 “디지털 사용자들은 잠들지 않는다”고 말했다.
에이전트가 네트워크의 새로운 사용자 계층으로 자리잡게 되면, 네트워크는 그들이 누구인지, 어떤 자원에 접근할 수 있는지, 그리고 어떻게 행동하는지를 파악해야 합니다. 이로 인해 네트워크는 단순한 전송 계층을 넘어 AI를 위한 신원 및 정책 계층으로 기능하게 됩니다. 바로 여기서 인프라, 보안, 거버넌스 관련 예산이 서로 맞닿기 시작합니다.
보안 리더들이 자율성의 속도를 결정할 것입니다
연사진이 흥미롭습니다: 네트워킹 행사에서 세 명의 연사가 보안 조직을 이끌고 있습니다. 대부분의 조직에서는 자율 운영이 얼마나 빠르게 진행될지에 대해 CIO가 아닌 최고정보보안책임자(CISO)가 결정합니다.
보안 책임자들은 양면적인 문제에 직면해 있습니다. 한편으로는 AI 에이전트들이 시스템과 데이터, 그리고 서로 간의 상호작용에 접근해야 하므로, 기존의 제로 트러스트 모델이 설계되지 않은 비인간 신원의 수가 점점 늘어나고 있습니다. 다른 한편으로는 이제 공격자들도 AI를 보유하게 되었습니다. 앤트로픽의 Claude Mythos는 인증된 조직들이 고위험 또는 중대한 심각도의 취약점을 1만 건 이상 식별하는 데 도움을 주었으며, 이러한 역량은 앞으로 더욱 확산될 것으로 예상됩니다. 이는 구식이고 지원이 종료된 네트워크 장비들을 정확히 표적 지점으로 만들고 있습니다.
보안 및 네트워크 전문가들과의 대화에서, “미토스 순간”은 환경을 현대화해야 한다는 경각심을 일깨우는 계기가 되었습니다. 10년이 넘은 오래된 네트워크 인프라가 상당히 많습니다. 이러한 구형 스위치와 라우터에는 AI로 생성된 위협으로부터 보호할 수 있는 기능 세트가 갖춰져 있지 않습니다.
HPE의 SASE 및 보안 부문 수석 부사장 겸 총괄 책임자인 데이비드 휴즈는 투자자 행사에서 “네트워크를 센서로 활용하면” 위협을 탐지할 수 있으며, 네트워크 자체가 이를 차단할 수 있어 제로 트러스트를 에이전트와 디바이스까지 확장할 수 있다고 주장했습니다. 저는 CISO들이 자율성을 관리해야 할 리스크로 보는지, 아니면 반드시 갖춰야 할 방어 수단으로 보는지에 대해 듣고 싶습니다.
제 생각에는 두 가지 모두입니다. 인간 수준의 보안 운영은 기계 속도의 공격을 따라잡지 못하므로, 기업이 자율적 운영을 위해 구축하는 동일한 신뢰 모델이 곧 그들이 스스로를 얼마나 잘 방어할 수 있는지를 결정하게 됩니다.
차단 요인은 대부분 인간과 운영상의 문제입니다.
실무자들에게 에이전트형 AI의 성능 저하 요인을 물어보면, “모델”이라는 답은 거의 듣지 못합니다. 대신 데이터의 분산화, 레거시 인프라, 명확하지 않은 책임 소재, 기술 격차, 비용, 그리고 무엇보다도 신뢰 문제에 대해 이야기합니다.
투자자 데이에서 HPE는 자율주행 네트워크에 대한 신뢰를 증거 기반으로 설명하며, 시스템이 스스로 행동에 나서기 전에 운영자에게 자신이 권장하는 내용과 그 이유를 먼저 보여준다고 밝혔습니다. 이는 올바른 접근 방식이지만, 이를 위해서는 많은 조직이 부족한 깨끗한 텔레메트리가 필요합니다. 또한 라힘은 구매자가 벤더의 자율주행 관련 주장만 듣고 판단할 때 “실제로 얼마나 내재되어 있는지 확인하기 위해 반드시 내부를 들여다봐야 한다”고 경고했습니다.
행사에서는 토큰omics이라는 핫한 주제에 대해서도 다룰 예정입니다. 블룸버그 인텔리전스의 소프트웨어 애널리스트 니라즈 파텔이 프로그램에 참여하며, 많은 에이전트형 AI 프로젝트가 정체되는 지점은 바로 투자수익률에 관한 논의입니다. 리더들은 단순히 파일럿에서 작동한다는 사실만을 보여주는 것이 아니라, 자율성이 비용을 절감하거나 새로운 수익원을 창출한다는 점을 입증해야 합니다.
기업 리더들에게 이것이 의미하는 바
AI 파일럿 단계에서 자율 운영으로 전환하려는 CIO와 CTO를 위해, 저는 네 가지 단계를 권장합니다:
자율성 단계를 정의하세요. AI가 스스로 수행할 수 있는 작업, 인간의 승인이 필요한 작업, 그리고 여전히 수동으로 처리해야 하는 작업을 구분하십시오. 분기별로 목록을 검토하고 결과에 따라 이를 업데이트하세요.
먼저 데이터를 정리하세요. 자율 운영은 일관되고 엔드투엔드의 텔레메트리를 기반으로 합니다. ServiceNow가 그랬듯이 도구와 제어 플레인을 통합하는 것이 이러한 일관성을 확보하는 가장 빠른 방법인 경우가 많습니다.
제로 트러스트를 AI 에이전트까지 확장하십시오. 신원 인식 기반 접근 제어, 최소 권한 정책 및 지속적인 모니터링을 에이전트의 행동에 적용하여, 이를 개별 애플리케이션 내부에만 국한하지 않고 네트워크 전반에 걸쳐 강제 시행하십시오.
패치할 수 없는 것은 폐기하십시오. 지원이 종료된 인프라를 파악하고, AI 기반 공격에 의해 악용되기 전에 이를 교체하세요.
마지막 생각들
자율 운영으로의 전환은 최고의 모델이나 가장 많은 GPU로 승리하는 것이 아닙니다. AI가 안전하게 작동할 수 있도록 신뢰, 데이터 및 인프라를 구축하는 기업들이 승리할 것입니다. 그렇기 때문에 이번 라인업이 저에게 매력적으로 다가옵니다: 가동 시간, 보안 및 비즈니스 성과에 대한 책임을 지는 주체들과 공급업체들이 같은 무대에서 함께합니다.
네트워킹 인베스터 데이는 HPE의 자율주행 네트워크가 슬라이드 쇼 수준을 넘어섰음을 보여주는 훌륭한 AI ‘아뮤즈-부슈’였습니다. 블룸버그 행사가 본격적인 메인 코스로, CIO와 CISO들이 이에 동의하는지 여부를 드러낼 것으로 기대됩니다.
지우스 커라발라는 커라발라 컨설팅의 한 부서인 ZK 리서치의 수석 애널리스트입니다. 그는 이 기사를 실리콘앵글을 위해 작성했습니다.
theCUBE 커뮤니티와 함께 참여하여 콘텐츠를 개방적이고 무료로 유지하는 우리의 사명을 지지해 주세요. 기술 리더들이 연결되고 인텔리전스를 공유하며 기회를 창출하는 theCUBE의 동문 트러스트 네트워크에 가입하세요.
theCUBE 영상의 1,500만 명 이상의 시청자들이 AI, 클라우드, 사이버보안 등 다양한 분야에서 활발한 대화를 이끌고 있습니다.
11.4k+ theCUBE 동문 — 독창적이고 신뢰 기반의 네트워크를 통해 미래를 만들어가는 11,400명 이상의 기술 및 비즈니스 리더들과 연결하세요
귀하는 AWS 고객이십니까? SiliconANGLE을 지원하시려면 저희 마켓플레이스 포털 페이지와 링크를 통해 AWS 서비스를 구매해 주시기 바랍니다: https://siliconangle.com/aws-marketplace/
기술 분야의 선구자인 존 퓨리어와 데이브 벨란테가 설립한 실리콘앵글 미디어는 업계를 선도하는 디지털 미디어 브랜드로 구성된 역동적인 생태계를 구축하여 1,500만 명이 넘는 최고 수준의 기술 전문가들에게 도달하고 있습니다. 당사의 새로운 독점 솔루션인 theCUBE AI 비디오 클라우드는 청중과의 상호작용에서 혁신을 이끌고 있으며, theCUBEai.com의 신경망을 활용해 기술 기업들이 데이터 기반 의사결정을 내리고 업계 논의의 최첨단에 머물 수 있도록 지원합니다.
메타, AI 인프라 구축 자금 조달을 위해 최대 950억 달러 규모의 주식 매각 추진
F1 캐피탈 팩토리의 7가지 인사이트: 빌더들이 딥 테크 스타트업 인프라를 프로토타입에서 규모로 확장하는 과정
시스코의 프라이빗 인프라스트럭처 액세스는 관리자 권한과 AI 에이전트 권한을 작업에 연계합니다.
시스코, AI 기반 네트워크 관리를 확장하고 새로운 파트너 인센티브 제공
AI 수요 속에서 마벨의 초기 칩 제조 모험 성과를 거두다
앤티로픽, 대형 AI 기업 공모를 위한 S-1 서류 제출
메타, AI 인프라 구축 자금 조달을 위해 최대 950억 달러 규모의 주식 매각 계획INFRA - 마리아 도이처 작성. 22분 전
F1 캐피털 팩토리의 7가지 인사이트: 빌더들이 딥테크 스타트업 인프라를 프로토타입에서 규모로 확장하는 방법 INFRA - 저자: 조나단 앤서니. 41분 전
시스코의 특권 인프라 액세스는 관리자 및 AI 에이전트 권한을 작업에 연결합니다SECURITY - 덩컨 라일리 작성. 1시간 전
시스코, AI 기반 네트워크 관리를 확장하고 새로운 파트너 인센티브 제공 INFRA - 폴 길린 작성. 1시간 전
마벨의 초기 칩 제조 베팅이 AI 수요 속에서 성과를 거두다AI - 마크 앨버트슨 저 . 6시간 전
Anthropic, 대형 AI 기업의 IPO를 위한 S-1 서류를 제출 — 작성자: KYT DOTSON. 6시간 전