본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

전체 AI 소식

출처, 주제, 시간으로 전체 뉴스에서 관심 소식을 찾아보세요.

발행 시간순

TorchNeuron 시스템 수준 성능 분석(제1부): AWS Trainium 칩 기반 엔드투엔드 프로파일링

이 글은 Hugging Face와 Amazon이 공동으로 발표한 기술 블로그 시리즈의 첫 번째 편으로, AWS Trainium AI 가속 칩에서 TorchNeuron을 활용한 PyTorch 모델 추론 성능 분석 방법을 체계적으로 소개합니다. 여기에는 Neuron 백엔드 통합 원리, torch.profiler 구성 방법, NeuronConfig 및 NeuronProfiler 도구의 사용법, Neuron Explorer를 이용한 시각적 추적 등이 포함되며, RMSNorm을 사례로 삼아 세 가지 구현 방식(순수 PyTorch, torch.rms_norm 내장형 병합, torch.compile 자동 병합) 간의 장치별 처리 시간 차이를 비교합니다.

진행 상황 및 관련 보도

NVIDIA가 Kumo Forecast를 발표했습니다: 사전 훈련된 시계열 표현, 과거 패턴 검색 및 해석 가능성을 통합한 다변량 예측 모델

NVIDIA는 오픈소스 시계열 예측 모델인 Kumo Forecast(구 NV-Tesseract Forecasting)를 출시했습니다. 이 모델은 MOMENT-1-large Transformer 아키텍처를 기반으로 하며, 직접 예측과 도메인 인식 표현 및 검색(DARR)의 두 가지 경로 추론을 지원하고, 모델 구조를 수정할 필요 없이 내장된 해석 가능성 프레임워크를 탑재하고 있습니다.

진행 상황 및 관련 보도

Microduck 오픈소스 이족 보행 로봇은 시뮬레이션 훈련과 실제 기기 배치를 지원합니다: NVIDIA Isaac Lab 3.0이 Sim-to-Real 폐쇄 루프를 구현했습니다.

폴렌 로보틱스와 허깅 페이스가 공동으로 저비용 오픈소스 이족 보행 로봇인 마이크로덕을 발표했으며, NVIDIA 아이시스 랩 3.0과 뉴턴 물리 엔진을 통합해 GPU 기반 병렬 시뮬레이션에서 보행 전략을 학습할 수 있도록 지원합니다. 도메인 랜덤화와 고정밀 액추에이터 모델링(기어 간극, 지연, 마찰 등 포함)을 통해 시뮬레이션에서 실제 로봇으로의 전이 안정성을 높이고, 최종적으로 ONNX 모델을 내보내 실제 로봇에 직접 배포할 수 있습니다.

진행 상황 및 관련 보도

NVIDIA, Kumo Relational 발표: 학습 없이도 지도학습을 능가하는 최초의 구조화된 데이터 기반 모델

NVIDIA는 사전 훈련된 관계형 기반 모델인 Kumo Relational을 출시했으며, 이 모델은 기업용 관계형 데이터베이스에서 이탈 예측, 사기 탐지, 수요 예측 등 다양한 예측 작업을 직접 수행할 수 있습니다. 작업 미세조정, 특성 엔지니어링 또는 테이블 평탄화가 필요하지 않습니다. 15개 데이터베이스에 걸친 41개의 벤치마크에서 XGBoost 등 감독 학습 모델을 전면적으로 능가했으며, SAP SALT 기업 벤치마크에서는 MRR 지표에서 AutoGluon보다 8% 앞섰습니다. 또한 5,000억 행 규모의 데이터베이스를 지원하며, Predictive Query Language(PQL)를 통해 코드 없이 예측 호출을 구현할 수 있습니다.

진행 상황 및 관련 보도

IBM, Granite Speech 5.0 시리즈 음성 모델 출시: 다국어 음성 문자 변환 및 번역, 화자 식별 기능 지원

IBM은 Granite Speech 5.0 시리즈의 세 가지 오픈소스 음성 모델—granite-speech-5.0-2b(고정확도 다국어 ASR/MT), granite-speech-5.0-470m-turboctc(초고속 엣지 기반 다국어 음성 전사) 및 업데이트된 granite-speech-4.1-2b-plus(향상된 다화자 대화 모델링)—를 출시했습니다. 이들 모두는 Apache 2.0 라이선스 하에 제공되며, 주요 추론 프레임워크를 지원합니다.

진행 상황 및 관련 보도

i14, Laplace 3B 선형 주의 메커니즘 모델 발표: AWS Trainium2와 네이티브 PyTorch를 기반으로 한 고정 상태 메모리 추론 구현

i14는 30.28억 개의 파라미터를 갖는 Laplace 3B 모델을 출시했으며, Softmax 주의 메커니즘을 대체해 게이트 제어 선형 주의(GLA)를 채택했습니다. 이 모델은 추론 시 각 시퀀스의 재귀 상태 크기가 항상 29.5 MB로, 컨텍스트 길이와 무관합니다. 해당 모델은 AWS trn2.48xlarge 인스턴스 한 대(Trainium2 칩 16개 탑재)에서 훈련 및 서비스 검증을 완료했으며, 훈련 처리량은 초당 12만 토큰에 달하고, 서비스 처리량은 초당 11,544 출력 토큰(동시 실행 시퀀스 수 1,280)입니다. 모든 성능 데이터는 i14와 AWS GenAIIC 팀의 내부 실측 결과입니다.

진행 상황 및 관련 보도

메타, AI 논란을 진정시키기 위해 상업용 서비스 약관에서 ‘훈련’이라는 용어를 삭제했으나, robots.txt 규범은 준수하지 않음

메타는 2026년 10월 30일자로 발효되는 업데이트된 상업 서비스 약관에서 ‘train’(훈련)이라는 용어를 삭제하며, AI 데이터 수집 정책에 대한 외부의 강력한 비판에 대응했다. 그러나 회사는 약관에 로봇.txt 프로토콜을 준수한다는 문구를 포함하지 않을 것임을 분명히 밝혔다.

진행 상황 및 관련 보도

Gemini의 개인 지능 기능이 공식적으로 차량용 시스템에 도입되었습니다: Android Auto는 오늘부터 배포되며, Google의 내장형 차량용 시스템은 수개월 내에 이어질 예정입니다.

Google은 2026년 10월에 Gemini의 Personal Intelligence(개인 지능) 기능을 차량 내 시나리오로 확장한다고 발표했으며, 첫 단계에서는 Android Auto 사용자에게 제공되고 향후 수개월 내에 Google Built-in 시스템을 탑재한 차종으로도 확대될 예정입니다. 이 기능은 선택적으로 활성화할 수 있으며, Gmail, Calendar 등 로컬 데이터에 대한 사용자의 접근 권한 승인에 따라 관련성 있는 응답을 개선합니다.

진행 상황 및 관련 보도

배틀 드론스 - 오디오 기반 멀티플레이어를 갖춘 바이브 코딩 RTS

제 최신 바이브 코딩 게임 실험은 배틀 드론스라는 이름의 커맨드 앤 컨커 스타일 RTS(실시간 전략) 게임입니다(여기에서 플레이해 보세요). 이전 실험들과 달리, 이번에는 실제로 즐겁게 플레이할 수 있습니다. 사실을 고백하자면, 제가 클라우드에게 “훨씬 더 재미있게 만들어 주세요”라고 요청한 덕분에 여기까지 왔다는 점이 다소 부끄럽습니다. 또한, 근처 기기들 간에 오디오를 이용해 게임 상태를 동기화하는 멀티플레이 기능도 지원합니다! 지금까지 제가 만든 내용과 그 과정에서 배운 몇 가지 사항들을 소개합니다. 배틀 드론스: 제가 어떻게 v1부터 구축했는지 — 초기 프로토타입 v2: 완전한 스프라이트 v3: 다양한 지형 v4: 재미있는 업데이트 v5: 배틀 드론스의 3D화 v8: 아치펠라고 v10: 골리앗과 에이전트 전투 에이전트 전투 v11: 랜덤 맵 v12: 소리를 통한 멀티플레이 일부 소감 업데이트: 온라인 멀티플레이 지원 배틀 드론스 제 초기 목표는 구축하려던

진행 상황 및 관련 보도

SF Compute, 프로그래밍 가능한 데이터센터 구축: 물리적 인도를 기반으로 한 GPU 연산력 거래 시장

SF Compute는 에반 콘래드가 설립한 기업으로, 중립적이고 프로그래밍 가능하며 물리적 인도를 지원하는 GPU 연산력 거래 인프라 구축을 목표로 합니다. 이 회사의 모델은 FLOPS 상품의 추상화를 지양하고 하드웨어의 이기종성, 실제 인도 및 실시간 제약(예: 중단 허용성, InfiniBand 토폴로지, 펌웨어 버전 등)을 강조합니다. 현재까지 수백억 달러 규모의 거래량을 달성했으며, 동적 InfiniBand 서브넷 분할과 같은 기반 기능도 선보였습니다.

진행 상황 및 관련 보도

SF Compute, 프로그래밍 가능한 데이터센터 구축: 물리적 인도를 통해 GPU 연산력 거래의 시장화 촉진

SF Compute는 에반 콘래드가 설립한 기업으로, GPU 연산력에 대한 프로그래밍 가능하고 물리적으로 교환 가능한 거래를 실현하는 데 중점을 두고 있습니다. 이 회사는 자체 데이터센터를 보유하지 않고, 풀스택 기술을 통해 제3자 시설과 협력해 ‘주권형 연산력 클라우드’를 공동 구축하며, 시장 중립성과 인프라의 통제 가능성에 큰 비중을 두고 있습니다. 현재까지 수억 달러 규모의 거래액을 달성했으며, InfiniBand 동적 분할 등 핵심 기능도 실제로 구현했습니다.

진행 상황 및 관련 보도

우크라이나가 드론을 활용해 부상자를 철수하는 최초의 실전 사례를 기록하며, 전장 응급처치는 새로운 국면을 맞이했다.

우크라이나군은 전선에서 세계적으로도 드문 중량급 6개 로터를 갖춘 무인기로 부상자를 공중 이송하는 작전을 성공적으로 수행함으로써, 오랜 기간 시험 단계에 머물러 온 무인화된 전장 의무 후송 개념을 검증했다. 해당 작전의 발생 시점과 장소는 공개되지 않았으나, 관련 영상은 2026년 10월 19일 우크라이나군 공식 채널을 통해 공개되었다.

진행 상황 및 관련 보도

스마트시트가 모델 컨텍스트 프로토콜(MCP) 서버를 출시하여, AI 에이전트가 AWS에서 실시간 프로젝트 데이터에 직접 연결할 수 있도록 지원합니다.

Smartsheet는 범용 모델 컨텍스트 프로토콜(MCP) 서버를 정식으로 출시했으며, 표준화된 프로토콜을 통해 AI 에이전트가 Smartsheet의 프로젝트 테이블, 행, 열, 자동화 등 구조화된 데이터를 읽고 쓸 수 있도록 지원합니다. 이 서비스는 AWS 생태계에 이미 도입되어 있으며, 비즈니스 사용자를 위한 Amazon Quick과 개발자를 위한 Kiro 두 가지 유형의 클라이언트 접속을 지원하여, 자연어 기반의 도구 간 작업 업데이트, 상태 동기화 및 상황 인식 기반 개발을 구현합니다.

진행 상황 및 관련 보도

AWS가 기술 프리뷰 솔루션을 발표했습니다: Amazon Quick과 Bedrock AgentCore를 활용한 거버넌스 가능한 대화형 공급망 지능 시스템 구축

AWS는 모델 컨텍스트 프로토콜(MCP) 기반의 모듈형 에이전트 아키텍처를 출시했으며, AgentCore를 통해 엔터프라이즈급 도구 인터페이스를 통합적으로 관리합니다. 또한 Amazon Quick은 비즈니스 사용자를 위한 자연어 기반 대화형 인터페이스를 제공하여 ERP, 구매, 모니터링 등 다양한 시스템 간에 실시간으로 승인 중심의 공급망 의사결정 지원을 구현합니다. 이 솔루션은 기술 미리보기 단계로, 생산 환경 적용이나 고객 도입을 보장하지 않습니다.

진행 상황 및 관련 보도

GPT-OSS-20B 다중언어 추론 미세조정 실험: SFT는 초보자 수준의 행동 습득을 가능하게 하며, GRPO는 확률 헤드 공간이 존재할 때에만 효과적으로 성능을 향상시킨다.

AWS 팀은 Amazon SageMaker HyperPod에서 GPT-OSS-20B를 대상으로 다국어 추론 미세조정 실험을 수행했으며, LoRA 기반의 효율적 파라미터 미세조정을 적용했습니다. SFT는 영어·프랑스어·독일어·스페인어·이탈리아어 등 5개 언어에 대한 추론 정확도를 22%에서 100%로 끌어올렸지만, 답변 언어의 정확도는 62%에 그쳤습니다. GRPO는 이를 바탕으로 답변 언어 정확도를 70%까지 추가로 개선했으며, 추론 언어 성능에는 별다른 손상을 주지 않았습니다. 다만 이익의 정도는 언어마다 상이하여, 예를 들어 스페인어는 30%p 향상된 반면 이탈리아어는 20%p 하락했습니다. 실험 결과는 GRPO가 새로운 능력을 제로 상태에서 창출할 수 없으며, 기존에 간헐적으로 나타나던 행동만을 최적화할 수 있음을 분명히 보여줍니다.

진행 상황 및 관련 보도