제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
이 글에서는 Underdog가 발표한 Saluki 27B 모델을 소개합니다. 이 모델은 7.9 GB 크기의 2비트 양자화 Qwen3.8-27B 변형으로, ISTA-DASLab의 GSQ-RCO 방법을 기반으로 구축되었으며, 120개의 작업에 대한 BFCL v4 도구 호출 벤치마크에서 원래의 54 GB 풀 정밀도 모델을 능가한다고 주장됩니다. 다만 모든 성능 관련 결론은 해당 개발자의 발표에 근거한 것으로, 독립적인 검증은 이루어지지 않았습니다.
NVIDIA는 Google Gemma 4 E4B 모델을 기반으로, 강화학습(RL) 후 훈련만을 거쳐 Nemotron 3.5 Bolt E4B 4GB를 출시했습니다. 이는 총 매개변수 8B, 유효 매개변수 4B, 64K의 컨텍스트를 갖춘 오픈소스 소형 언어모델로, RTX 및 Jetson 등 엣지 디바이스에서 약 4GB VRAM으로 구동되며, 다중 라운드 도구 호출과 저지연 음성 상호작용을 지원합니다.
2026년 10월 21일에서 22일을 전후한 약 48시간 동안, 전 세계적으로 고위험 AI 가속 취약점 및 침입 사건이 10여 건 이상 집중적으로 발생했으며, 이에는 PHP2Shell, GitLab RCE(CVSS 10), NGINX/HTTP/3 DoS, LiteLLM 비밀번호 탈취, eMudhra CA 키 유출, Quest Diagnostics 의료 데이터 노출 등이 포함된다. 또한 Storm-0940 등 국가 행위체는 ARTEX와 같은 오픈소스 지능형 침투 프레임워크를 활용해 대규모 공격을 감행했다. 같은 시기, 형식적 검증, 오픈소스 수정 에이전트, 에이전트 기술 표준화 및 하드웨어 수준 최적화 등을 포함한 AI 보안 방어 체계가 가속화되어 구축되고 있다.
이 글에서는 자체 호스팅 대규모 언어 모델과 클라우드 API 간의 데이터 프라이버시, 비용, 지연 시간 및 성능 측면에서의 균형을 비교하고, 오픈소스 배포 가능 모델의 하드웨어 요구 사항(예: VRAM 및 양자화)과 대표적인 기술 스택을 소개합니다. 또한 n8n을 예로 들어, 작업의 민감도, 복잡성 또는 규정 준수 요구사항에 따라 로컬 및 클라우드 모델 간에 요청을 동적으로 분산하는 혼합형 라우팅 워크플로를 구축하는 방법을 설명합니다.
AWS는 Adaptive Agentic Intelligence Framework(AAIF)를 제안하며, Strands Agents를 활용해 계층형 에이전트 아키텍처를 구축하고, 로컬 소형 언어 모델(SLM)을 통해 작업을 동적으로 라우팅합니다. 일반적인 IoT 원격 측정과 비전 분석은 엣지에서 처리되며, 복잡한 추론은 Amazon Bedrock 클라우드 대규모 모델로 위임됩니다. 이 프레임워크는 하이브리드 배포를 지원하고 비용을 통제할 수 있으며, 책임 있는 AI에 대한 제어 권장 사항도 통합되어 있습니다. 다만 현재는 개념 검증 수준에 머물러 있어, 제3자 검증이나 상용화된 실제 데이터는 제공되지 않습니다.
OpenAI의 GPT-6 및 6.1 시리즈 최첨단 모델(Astra, Sol, Luna)은 향후 수주 내에 Google Cloud Model Garden에 출시되며, Google의 에이전트 기반 프로그래밍 도구인 Antigravity에도 통합될 예정입니다. 이로써 Google은 Gemini, Claude, GPT 등 세 가지 주요 폐쇄형 대규모 언어 모델을 동시에 제공하는 최초의 주류 클라우드 서비스 제공업체가 되었습니다.
2026년 10월 베를린에서 열린 GTC 컨퍼런스에서 NVIDIA는 개인, 개발자 및 기업 사용자를 위한 세 가지 온프레미스 AI 하드웨어 플랫폼을 공식적으로 출시했습니다: RTX Spark(Windows PC용 개인형 인공지능 에이전트), DGX Spark(Linux 개발 클러스터) 및 DGX Station(최첨단 AI 워크스테이션)이며, 동시에 다수의 소프트웨어 업데이트, 모델 지원 및 생태계 통합을 발표했습니다.
Dharma-AI는 VocabX 방법을 제안하여, 포르투갈어 작문 자동 채점과 같은 특정 작업에 맞춰 언어 모델의 어휘표를 재구성함으로써 단어 빈도가 아닌 단어 비용을 최적화 목표로 삼습니다. 모델 구조, 파라미터 또는 학습 프로세스를 수정하지 않은 상태에서, 실험 결과 추론 비용이 77% 감소하는 동시에 평가 점수(bench score)가 0.703에서 0.810으로 향상되었습니다.
IBM은 Granite Speech 5.0 시리즈의 세 가지 오픈소스 음성 모델—granite-speech-5.0-2b(고정확도 다국어 ASR/MT), granite-speech-5.0-470m-turboctc(초고속 엣지 기반 다국어 음성 전사) 및 업데이트된 granite-speech-4.1-2b-plus(향상된 다화자 대화 모델링)—를 출시했습니다. 이들 모두는 Apache 2.0 라이선스 하에 제공되며, 주요 추론 프레임워크를 지원합니다.
DeepSeek V4.1, Flash 1017 등 세 가지 새로운 모델이 발표되었지만 아직 초기 배포 단계에 있습니다. 중국과 미국은 동시에 AI 거버넌스를 강화하고 있으며, 미국 국토안보부는 DeepSeek 관련 제품의 사용을 금지했고, 중국은 초대규모 모델의 수출에 대해 심사 승인 제도를 도입할 계획입니다. 또한 Anthropic은 공익 지분 펀드를 출범하고 연방 AI 법안을 초안 작성 중이며, 산업 인프라와 보안 연구가 동시에 추진되고 있습니다.
Hugging Face는 AnyLanguageModel 1.0을 정식으로 출시했으며, Apple Foundation Models API와 완전히 호환되는 오픈소스 Swift 프레임워크를 제공합니다. 이 프레임워크는 로컬 모델(MLX, llama.cpp, Core ML)과 호스팅 모델(OpenAI, Anthropic, Gemini, Hugging Face Inference Providers 등) 간의 원활한 전환을 지원하며, 이미지 입력, 도구 호출, 가이드형 생성, 추론 블록 자동 적응 등의 기능도 추가되었습니다.
FairStress는 대규모 언어 모델(LLM)이 인구통계학적 정체성 교체 상황에서 내리는 의사결정의 안정성, 해석의 일관성, 그리고 내부 표현의 대칭성을 평가하는 새로운 벤치마크로, 모델에 ‘반고정관념식 과잉 보정’과 같은 체계적인 행동 편향이 존재함을 밝히며, 주류 평가 방법(예: BBQ)이 패러다임 차이로 인해 편향의 방향을 잘못 판단할 수 있음을 지적합니다.
