본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

i14, Laplace 3B 선형 주의 메커니즘 모델 발표: AWS Trainium2와 네이티브 PyTorch를 기반으로 한 고정 상태 메모리 추론 구현

i14는 30.28억 개의 파라미터를 갖는 Laplace 3B 모델을 출시했으며, Softmax 주의 메커니즘을 대체해 게이트 제어 선형 주의(GLA)를 채택했습니다. 이 모델은 추론 시 각 시퀀스의 재귀 상태 크기가 항상 29.5 MB로, 컨텍스트 길이와 무관합니다. 해당 모델은 AWS trn2.48xlarge 인스턴스 한 대(Trainium2 칩 16개 탑재)에서 훈련 및 서비스 검증을 완료했으며, 훈련 처리량은 초당 12만 토큰에 달하고, 서비스 처리량은 초당 11,544 출력 토큰(동시 실행 시퀀스 수 1,280)입니다. 모든 성능 데이터는 i14와 AWS GenAIIC 팀의 내부 실측 결과입니다.

진행 상황 및 관련 보도

SF Compute, 프로그래밍 가능한 데이터센터 구축: 물리적 인도를 기반으로 한 GPU 연산력 거래 시장

SF Compute는 에반 콘래드가 설립한 기업으로, 중립적이고 프로그래밍 가능하며 물리적 인도를 지원하는 GPU 연산력 거래 인프라 구축을 목표로 합니다. 이 회사의 모델은 FLOPS 상품의 추상화를 지양하고 하드웨어의 이기종성, 실제 인도 및 실시간 제약(예: 중단 허용성, InfiniBand 토폴로지, 펌웨어 버전 등)을 강조합니다. 현재까지 수백억 달러 규모의 거래량을 달성했으며, 동적 InfiniBand 서브넷 분할과 같은 기반 기능도 선보였습니다.

진행 상황 및 관련 보도

SF Compute, 프로그래밍 가능한 데이터센터 구축: 물리적 인도를 통해 GPU 연산력 거래의 시장화 촉진

SF Compute는 에반 콘래드가 설립한 기업으로, GPU 연산력에 대한 프로그래밍 가능하고 물리적으로 교환 가능한 거래를 실현하는 데 중점을 두고 있습니다. 이 회사는 자체 데이터센터를 보유하지 않고, 풀스택 기술을 통해 제3자 시설과 협력해 ‘주권형 연산력 클라우드’를 공동 구축하며, 시장 중립성과 인프라의 통제 가능성에 큰 비중을 두고 있습니다. 현재까지 수억 달러 규모의 거래액을 달성했으며, InfiniBand 동적 분할 등 핵심 기능도 실제로 구현했습니다.

진행 상황 및 관련 보도

GPT-OSS-20B 다중언어 추론 미세조정 실험: SFT는 초보자 수준의 행동 습득을 가능하게 하며, GRPO는 확률 헤드 공간이 존재할 때에만 효과적으로 성능을 향상시킨다.

AWS 팀은 Amazon SageMaker HyperPod에서 GPT-OSS-20B를 대상으로 다국어 추론 미세조정 실험을 수행했으며, LoRA 기반의 효율적 파라미터 미세조정을 적용했습니다. SFT는 영어·프랑스어·독일어·스페인어·이탈리아어 등 5개 언어에 대한 추론 정확도를 22%에서 100%로 끌어올렸지만, 답변 언어의 정확도는 62%에 그쳤습니다. GRPO는 이를 바탕으로 답변 언어 정확도를 70%까지 추가로 개선했으며, 추론 언어 성능에는 별다른 손상을 주지 않았습니다. 다만 이익의 정도는 언어마다 상이하여, 예를 들어 스페인어는 30%p 향상된 반면 이탈리아어는 20%p 하락했습니다. 실험 결과는 GRPO가 새로운 능력을 제로 상태에서 창출할 수 없으며, 기존에 간헐적으로 나타나던 행동만을 최적화할 수 있음을 분명히 보여줍니다.

진행 상황 및 관련 보도

Octave는 Amazon Bedrock를 기반으로 안전한 멀티테넌트 AI 인프라를 구축하여 20억 건의 규제 문서에 대한 의미 검색을 지원합니다.

Octave Reliance는 Amazon Bedrock을 기반으로 엄격한 테넌트 격리형 AI 인프라를 구축했으며, Cohere Embed v4와 AgentCore 마이크로 가상머신 런타임을 통합해 의료기기, 제약 및 식품 제조 산업 전반에 걸친 컴플레인 트라이애지 어시스턴트를 구현했습니다. 이를 통해 20억 건이 넘는 규제 대상 문서(불만 사항, CAPA, 감사 발견 등)에 대한 의미 기반 검색을 지원하며, 전체 과정에서 테넌트 간 데이터 유출을 완전히 차단합니다.

진행 상황 및 관련 보도

AWS Bedrock이 캐나다 리전에서 지역 간 추론 기능을 출시하여, 명목상 GPT-5.6/GPT-6/GPT-6.1 모델 호출을 지원합니다.

아마존 웹 서비스는 캐나다 고객들이 Amazon Bedrock을 통해 ca-central-1(캐나다 중부) 및 ca-west-1(캐나다 서부/캘거리) 리전에서 OpenAI GPT-5.6, GPT-6 및 GPT-6.1 모델을 크로스리전 추론(CRIS) 방식으로 호출할 수 있다고 발표했습니다. 실제 추론은 북미 또는 전 세계 AWS 상용 리전에서 이루어지며, 데이터는 캐나다 원본 리전에 정적 상태로 저장됩니다.

진행 상황 및 관련 보도

기업 AI의 새로운 경제학: ‘사용 가능 여부’에서 ‘어떻게 효율적으로 생산할 것인가’까지

기사에서는 전력 보급을 비유로 삼아, 기업의 AI가 이제까지의 단편적 실험 단계에서 벗어나 인프라화 단계로 진입하고 있으며, 핵심 문제도 ‘AI를 도입할 수 있는가’에서 ‘최소한의 효율적 비용으로 측정 가능한 비즈니스 성과를 어떻게 달성할 것인가’로 변화했음을 지적합니다. 또한 ‘각 유용한 산출물의 효율적 비용’을 핵심 지표로 제시하고, 자체 스택 구축, 온디맨드 클라우드 서비스, 통합형 프라이빗 AI 플랫폼 등 세 가지 AI 운영 모델 간의 경제성 차이를 분석하며, 활용률, 모델 선택, 캐시 관리 등 운영 실무가 ROI에 결정적인 영향을 미친다는 점을 강조합니다.

진행 상황 및 관련 보도

미스트랄, Voxtral 3 음성 지능형 에이전트 SDK 출시: 50여 개 언어의 실시간 음성 상호작용과 감성형 TTS 지원

Mistral은 2026년 10월 26일 이전에 Voxtral 3를 출시할 예정이며, 이는 다국어 실시간 음성 상호작용을 위한 엔드투엔드 SDK 및 모델 패밀리로, ASR(화자 분리 기능 포함), 추론 계층, TTS 등 세 가지 주요 모듈을 포괄합니다. 데이터 주권과 모듈식 배포를 강조하지만, 모든 성능 관련 주장은 제조사 자체 테스트에 근거한 것으로, 독립적인 제3자 검증은 이루어지지 않았습니다.

진행 상황 및 관련 보도

DeepSeek V4.1 플래시, MiniMax M3.1 플래시 및 Mercury 3 출시; 중국과 미국의 모델 규제 강화; Anthropic, 공익 기금 및 AI 입법 초안 발표

DeepSeek V4.1, Flash 1017 등 세 가지 새로운 모델이 발표되었지만 아직 초기 배포 단계에 있습니다. 중국과 미국은 동시에 AI 거버넌스를 강화하고 있으며, 미국 국토안보부는 DeepSeek 관련 제품의 사용을 금지했고, 중국은 초대규모 모델의 수출에 대해 심사 승인 제도를 도입할 계획입니다. 또한 Anthropic은 공익 지분 펀드를 출범하고 연방 AI 법안을 초안 작성 중이며, 산업 인프라와 보안 연구가 동시에 추진되고 있습니다.

진행 상황 및 관련 보도

DeepSeek V4.1 Flash, MiniMax M3.1 Flash 및 Mercury 3가 동시에 출시되면서 AI 인프라와 거버넌스를 둘러싼 논란도 함께 고조되고 있다.

2026년 10월 16일부터 19일까지, DeepSeek V4.1 Flash 1017, MiniMax M3.1 Flash(Space Bunny) 및 Mercury 3(Inception) 등 세 가지 신형 모델이 연이어 출시되었다. 같은 시기 미국 국토안보부는 DeepSeek 관련 제품의 사용을 금지하는 명령을 내렸으며, 중국은 초대형 모델 수출 규제 초안을 마련하려 하고 있다. 이에 따라 오픈소스 생태계, 컴퓨팅 인프라 구축, 그리고 AI 거버넌스 간의 갈등이 전면적으로 부각되고 있다.

진행 상황 및 관련 보도

AnyLanguageModel 1.0 출시: 로컬 및 호스팅 모델을 지원하는 통합 Swift 인터페이스로, Apple 플랫폼의 모든 OS에 완벽히 대응합니다 27

Hugging Face는 AnyLanguageModel 1.0을 정식으로 출시했으며, Apple Foundation Models API와 완전히 호환되는 오픈소스 Swift 프레임워크를 제공합니다. 이 프레임워크는 로컬 모델(MLX, llama.cpp, Core ML)과 호스팅 모델(OpenAI, Anthropic, Gemini, Hugging Face Inference Providers 등) 간의 원활한 전환을 지원하며, 이미지 입력, 도구 호출, 가이드형 생성, 추론 블록 자동 적응 등의 기능도 추가되었습니다.

진행 상황 및 관련 보도

ALTK-Evolve: 모델 가중치 업데이트 없이 학습형 메모리만으로 τ²-bench 고객 서비스 벤치마크에서 1위를 차지했습니다.

IBM 연구소는 ALTK-Evolve 방법을 제안했으며, GPT-4.1을 활용해 자체 작업 흐름에서 신원 인증, 환불 확인 등과 같은 구조화된 행동 지침을 자동으로 도출하고, 이를 순수 프롬프트 엔지니어링 방식으로 ReAct 에이전트 시스템에 주입함으로써 모델 가중치를 업데이트하거나 인간의 라벨링에 의존하지 않고도 고객 서비스 과제의 정확도와 신뢰성을 크게 향상시켰다. 또한, 이 기술의 리테일 분야 버전은 67.5%의 Pass⁴ 점수로 τ²-bench 2026년 10월 12일 기준 순위 1위를 차지하며, 모든 최첨단 모델 및 미세 조정 시스템을 능가했다.

진행 상황 및 관련 보도

NVIDIA, Cosmos3-H-Dreams 출시: 실제 담낭 절제술 임상 영상을 기반으로 한 최초의 실시간 생성형 외과 시뮬레이터

NVIDIA는 임상 담낭절제술(cholecystectomy) 영상과 로봇 운동학 데이터를 기반으로 학습한 최초의 실시간 생성형 수술 시뮬레이터인 Cosmos3-H-Dreams를 출시했으며, 이는 Versius 수술 로봇 플랫폼에서 수집된 동작을 통해 상호작용 가능한 저지연 시각 시뮬레이션을 지원하고 단일 RTX PRO 6000 GPU에서 구동됩니다.

진행 상황 및 관련 보도

TorchNeuron 공개 베타 출시: Hugging Face 모델이 AWS Trainium의 학습과 추론을 기본 지원

Hugging Face와 AWS가 공동으로 TorchNeuron을 출시했습니다—PyTorch용 원생형 Trainium 백엔드로, 2026년 10월 20일부터 공개 베타 테스트를 시작합니다. 이 기술을 통해 Transformers, Diffusers 등 주요 라이브러리들이 수정 없이 바로 Trainium 칩에서 실행될 수 있게 되어, 텍스트 생성 및 이미지 생성 모델의 사용 편의성과 호환성을 크게 향상시킵니다.

진행 상황 및 관련 보도

구글 I/O 2026에서 Gemini for Science, WeatherNext 및 Antigravity 2.0 등 AI 연구 및 건강 도구를 발표했습니다.

구글 연구팀은 I/O 2026 컨퍼런스에서 과학적 발견, 기후 예측, 의료 및 엣지 컴퓨팅을 위한 일련의 AI 시스템을 집중적으로 발표했으며, 여기에는 다모드형 연구 보조 도구 Gemini for Science, 허리케인 경보를 지원하는 WeatherNext, 자율적으로 운영체제를 구축할 수 있는 에이전틱 플랫폼 Antigravity 2.0, 그리고 오픈소스 양자 칩 Willow 등이 포함된다. 이 모든 성과는 실험적 시연에 불과하며, 아직 독립적인 검증이나 규제 승인을 받지는 않았다.

진행 상황 및 관련 보도