본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

AQL-Lite 출시: 현대 표준 아랍어를 위한 효율적인 대규모 모델의 지속적 사전 훈련 프레임워크

2026년 10월 24일, arXiv에 게시된 논문 2610.30344v1은 AQL-Lite 프레임워크를 제안하며, 품질 우선 데이터 선별과 부분 매개변수 지속 사전훈련(CPT)을 통해 다국어 대규모 모델의 현대 표준 아랍어(MSA) 적응 효율을 크게 향상시켰다.

AQL-Lite: Enabling Efficient Knowledge Acquisition for Arabic LLMs via Data-Centric Continual Pretraining

추천 이유:이 연구는 아랍어 대규모 모델 학습에서 발생하는 노이즈 데이터의 과다, 방언 혼재, 지속적인 사전훈련 비용의 높음 등 핵심 과제에 정면으로 도전하며, 재현 가능하고 경량화된 고성능·고비용 효율의 기술적 접근법을 제시하고, 여러 권위 있는 아랍어 벤치마크에서 그 유효성을 검증했습니다. 모든 결론은 논문에서 명확히 보고된 실험 설정과 결과에 근거한 것이며, 외부적 추론은 포함되지 않습니다.

진행 상황 및 관련 보도

IQuest-Q1: 에이전트형 CLI 시스템을 위한 기반 모델 역량 강화

arXiv:2610.30949v1 발표 유형: 신규 요약: 우리는 총 320B 파라미터(활성화된 파라미터는 15B)를 갖춘 희소 혼합전문가(MoE) 기반의 에이전트형 기반 모델인 IQuest-Q1을 제시합니다. IQuest-Q1은 세 단계의 프로세스를 통해 개발되었습니다: (1) 안정적이고 효율적인 사전 학습으로, 스테이블 스플릿노름, Muon 및 muP를 두 단계 커리큘럼과 결합하며, 두 번째 단계에서는 코딩 데이터 혼합 비율을 높여 안전한 학습률과 최적 학습률 간의 넓은 안정성 여유를 유지합니다; (2) 세밀한 중간 학습 단계에서는 도메인과 형식 전반에 걸쳐 데이터 혼합을 확대하고 문맥 범위를 점진적으로 확장합니다; 그리고 (3) 다중 스캐폴드와 다중 버전 사후 학습을 통해 SFT, 도메인 특화 RL, MOPD 등을 다양한 스캐폴드에서 결합하여 상호 보완적인 학습 신호를 통합하고 에이전트형 코딩 역량을 강화합니다.

IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
진행 상황 및 관련 보도

Amazon SageMaker AI가 GPU 없이 관리되는 모델 맞춤형 교육 세션을 출시하며, 정식으로 전면적으로 이용 가능해졌습니다.

AWS는 SageMaker AI의 서버리스 모델 맞춤화 기능에 ‘훈련 세션(Training Sessions)’을 추가했다고 발표했으며, 이는 오늘부터 전면적으로 이용 가능하다. 사용자는 훈련 후 로직(예: 사용자 정의 손실 함수, 보상 신호, 다단계 강화학습 등)을 직접 작성할 수 있으며, GPU 할당, 분산 실행, 장애 복구 및 체크포인트 저장은 모두 플랫폼에서 자동으로 처리된다.

진행 상황 및 관련 보도

아마존 세이지메이커가 학습 세션 API를 출시했습니다: 사용자는 GPU를 관리할 필요 없이 맞춤형 대규모 모델 학습 루프를 작성할 수 있습니다.

아마존 세이지메이커는 트레이닝 세션(Training Sessions) API를 출시하여, 사용자가 순수 파이썬 스크립트로 SFT, RLHF, GRPO, KTO 등과 같은 맞춤형 대규모 모델 훈련 로직을 구현할 수 있도록 지원합니다. GPU 리소스 스케줄링, 장애 복구, 분산 실행 및 체크포인트 관리는 모두 서비스에서 관리합니다.

진행 상황 및 관련 보도

마이크로소프트와 허깅페이스가 ThinkingBox 프레임워크를 오픈소스로 공개: 데이터베이스의 최종 상태를 결정적 보상 신호로 활용하여 지능체의 강화학습 후처리를 촉진

마이크로소프트와 허깅페이스가 공동으로 오픈소스 프레임워크인 ThinkingBox를 출시했으며, 이는 LLM 에이전트가 실행한 후의 실제 데이터베이스 최종 상태와 예상 상태를 비교하여 0/1 이진 보상을 생성함으로써 강화학습을 통해 모델을 미세조정하는 데 활용된다. 이와 함께 제공되는 벤치마크인 ThinkingBox-Bench에는 실제 백엔드 작업 507개가 포함되어 있으며, 해당 작업들은 모두 학습에 사용되지 않았다. Qwen3.8-27B는 50단계의 GRPO 미세조정을 거친 결과, 유지 테스트 세트에서 pass@1 지표가 9.08%포인트 상승하고 Observed 20/20 지표는 약 3배 증가했으나, 일부 분야에서는 pass@20 지표가 하락해 광범위성과 안정성 간의 균형을 반영했다.

진행 상황 및 관련 보도

테크크런치 설립자 서밋 2026: 보스턴에서 열리는 연례 창업자 실전 서밋이 11월 4일에 개최됩니다

TechCrunch Founder Summit 2026는 창업가의 성장을 중심으로 한 종일형 실전 행사로, 2026년 11월 4일(수) 보스턴 SoWa Power Station에서 개최됩니다. 이 행사는 자금 조달 전략, AI 네이티브 제품 개발, 리더십 강화 등 핵심 주제를 다루며, 피치 경연, 소규모 그룹 토론 및 Braindate 스마트 매칭 등 심층적인 참여형 프로그램을 포함합니다.

진행 상황 및 관련 보도

TorchNeuron 시스템 수준 성능 분석(제1부): AWS Trainium 칩 기반 엔드투엔드 프로파일링

이 글은 Hugging Face와 Amazon이 공동으로 발표한 기술 블로그 시리즈의 첫 번째 편으로, AWS Trainium AI 가속 칩에서 TorchNeuron을 활용한 PyTorch 모델 추론 성능 분석 방법을 체계적으로 소개합니다. 여기에는 Neuron 백엔드 통합 원리, torch.profiler 구성 방법, NeuronConfig 및 NeuronProfiler 도구의 사용법, Neuron Explorer를 이용한 시각적 추적 등이 포함되며, RMSNorm을 사례로 삼아 세 가지 구현 방식(순수 PyTorch, torch.rms_norm 내장형 병합, torch.compile 자동 병합) 간의 장치별 처리 시간 차이를 비교합니다.

진행 상황 및 관련 보도

i14, Laplace 3B 선형 주의 메커니즘 모델 발표: AWS Trainium2와 네이티브 PyTorch를 기반으로 한 고정 상태 메모리 추론 구현

i14는 30.28억 개의 파라미터를 갖는 Laplace 3B 모델을 출시했으며, Softmax 주의 메커니즘을 대체해 게이트 제어 선형 주의(GLA)를 채택했습니다. 이 모델은 추론 시 각 시퀀스의 재귀 상태 크기가 항상 29.5 MB로, 컨텍스트 길이와 무관합니다. 해당 모델은 AWS trn2.48xlarge 인스턴스 한 대(Trainium2 칩 16개 탑재)에서 훈련 및 서비스 검증을 완료했으며, 훈련 처리량은 초당 12만 토큰에 달하고, 서비스 처리량은 초당 11,544 출력 토큰(동시 실행 시퀀스 수 1,280)입니다. 모든 성능 데이터는 i14와 AWS GenAIIC 팀의 내부 실측 결과입니다.

진행 상황 및 관련 보도

메타, AI 논란을 진정시키기 위해 상업용 서비스 약관에서 ‘훈련’이라는 용어를 삭제했으나, robots.txt 규범은 준수하지 않음

메타는 2026년 10월 30일자로 발효되는 업데이트된 상업 서비스 약관에서 ‘train’(훈련)이라는 용어를 삭제하며, AI 데이터 수집 정책에 대한 외부의 강력한 비판에 대응했다. 그러나 회사는 약관에 로봇.txt 프로토콜을 준수한다는 문구를 포함하지 않을 것임을 분명히 밝혔다.

진행 상황 및 관련 보도

배틀 드론스 - 오디오 기반 멀티플레이어를 갖춘 바이브 코딩 RTS

제 최신 바이브 코딩 게임 실험은 배틀 드론스라는 이름의 커맨드 앤 컨커 스타일 RTS(실시간 전략) 게임입니다(여기에서 플레이해 보세요). 이전 실험들과 달리, 이번에는 실제로 즐겁게 플레이할 수 있습니다. 사실을 고백하자면, 제가 클라우드에게 “훨씬 더 재미있게 만들어 주세요”라고 요청한 덕분에 여기까지 왔다는 점이 다소 부끄럽습니다. 또한, 근처 기기들 간에 오디오를 이용해 게임 상태를 동기화하는 멀티플레이 기능도 지원합니다! 지금까지 제가 만든 내용과 그 과정에서 배운 몇 가지 사항들을 소개합니다. 배틀 드론스: 제가 어떻게 v1부터 구축했는지 — 초기 프로토타입 v2: 완전한 스프라이트 v3: 다양한 지형 v4: 재미있는 업데이트 v5: 배틀 드론스의 3D화 v8: 아치펠라고 v10: 골리앗과 에이전트 전투 에이전트 전투 v11: 랜덤 맵 v12: 소리를 통한 멀티플레이 일부 소감 업데이트: 온라인 멀티플레이 지원 배틀 드론스 제 초기 목표는 구축하려던

진행 상황 및 관련 보도

ALTK-Evolve: 모델 가중치 업데이트 없이 학습형 메모리만으로 τ²-bench 고객 서비스 벤치마크에서 1위를 차지했습니다.

IBM 연구소는 ALTK-Evolve 방법을 제안했으며, GPT-4.1을 활용해 자체 작업 흐름에서 신원 인증, 환불 확인 등과 같은 구조화된 행동 지침을 자동으로 도출하고, 이를 순수 프롬프트 엔지니어링 방식으로 ReAct 에이전트 시스템에 주입함으로써 모델 가중치를 업데이트하거나 인간의 라벨링에 의존하지 않고도 고객 서비스 과제의 정확도와 신뢰성을 크게 향상시켰다. 또한, 이 기술의 리테일 분야 버전은 67.5%의 Pass⁴ 점수로 τ²-bench 2026년 10월 12일 기준 순위 1위를 차지하며, 모든 최첨단 모델 및 미세 조정 시스템을 능가했다.

진행 상황 및 관련 보도

TorchNeuron 공개 베타 출시: Hugging Face 모델이 AWS Trainium의 학습과 추론을 기본 지원

Hugging Face와 AWS가 공동으로 TorchNeuron을 출시했습니다—PyTorch용 원생형 Trainium 백엔드로, 2026년 10월 20일부터 공개 베타 테스트를 시작합니다. 이 기술을 통해 Transformers, Diffusers 등 주요 라이브러리들이 수정 없이 바로 Trainium 칩에서 실행될 수 있게 되어, 텍스트 생성 및 이미지 생성 모델의 사용 편의성과 호환성을 크게 향상시킵니다.

진행 상황 및 관련 보도