본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

NUMA-Torch: 멀티소켓 CPU에서 컴파일러 기반 NUMA 인식 LLM 프리필

arXiv:2611.07105v1 발표 유형: 신규 초록: 온칩 캐시에 매개변수를 저장할 수 없는 충분히 큰 변환기 기반 대규모 언어 모델(LLM)의 경우, 멀티 소켓 CPU에서의 프리필 처리량은 최대 부동소수점 처리량이 아닌 지속 가능한 DRAM 대역폭에 의해 종종 제한됩니다. 표준 PyTorch 컴파일(즉, TorchInductor) 경로에서는 메모리 뱅크와 연산 코어 간의 연관성을 고려하지 않고 모델 가중치를 할당합니다. 이로 인해 가중치 접근의 상당 부분이 소켓 간 상호 연결을 통과하게 되어 각 소켓에서 사용할 수 있는 유효 메모리 대역폭이 크게 저하됩니다. 우리는 TorchInductor를 NUMA-aware로 만드는 컴파일러 수준의 솔루션을 통해 이러한 병목 현상을 해결합니다. 각 NUMA 소켓을 독립적인 텐서 병렬 파티션으로 취급하여 NUMA-aware Tensor Parallelism(NUMA-TP)을 도입합니다. 이 방법은 소켓 간에 가중치를 투명하게 분할하고 연산 커널을 스케줄링하여 스레드 풀과 메모리 할당이 CPU 연관성을 활용해 해당 소켓 내에서 엄격히 로컬로 유지되도록 합니다. 우리는 GPT-2(117M, 345M, 762M) 및 BERT(Small, Large)와 같은 표준 다중 헤드 주의와 MLP를 테스트하며, Multi-Query Attention과 GeGLU 게이트된 MLP를 결합한 Gemma 3 270M에서도 이 접근법을 평가합니다. 데이터 지역성을 엄격히 준수함으로써 우리의 접근법은 소켓 간 트래픽을 성공적으로 완화하여 듀얼 소켓 Haswell 플랫폼에서 최대 2.63배, 듀얼 소켓 Cascade Lake 플랫폼에서 최대 1.87배, 그리고 사중 소켓 Haswell-EX 플랫폼에서 최대 2.27배의 프리필 속도 향상을 달성했습니다.

열일곱 살 학생은 어떤 답을 썼을까? 여섯 개의 최첨단 언어 모델에서 나타나는 저자 연령 오인, 과대 평가된 신뢰도, 그리고 비교정적 자기 설명에 관한 행동 사례 연구

arXiv:2610.31946v1 발표 유형: 신규 초록: 세 명의 학생이 같은 시험 문제를 손으로 작성했다: “행복이란 무엇인가? 당신은 행복한가?” 수집 당시 기록된 이들의 나이는 17세, 28세, 45세이다. 열일곱 살 학생의 답은 조심스럽고 형식적으로 표현되어 있다. 각 답안을 나이와 성별 라벨에 맞추도록 요청했을 때, 대부분의 최첨단 언어 모델은 이를 성인에게 확신을 가지고 배정한다. 본 논문은 Claude Fable 5, Gemini 3.1 Pro, GPT-5.6 Sol, Grok 4.5, GPT-4o (2024), 그리고 DeepSeek V4 등 여섯 개 모델에서 발생한 이러한 실패를 구조화된 사례 연구로 보고한다. 우리는 프레임 설정, 공개 형식, 그리고 청중 인식 지침을 조작하는 여섯 가지 실험 조건 하에 1,081회의 API 세션을 진행하고, 총 3,225개의 응답을 점수화하였다. 여섯 개 모델 중 세 개는 매칭 과제에서 우연 수준(1/3)에 근접하거나 그에 가까운 성과를 보이는 반면, 73~88%의 정확도를 보고한다.

진행 상황 및 관련 보도

Mistral은 NVIDIA와 협력하여 AI 네이티브 엔지니어링 워크플로를 추진하고, Mistral Large 4를 출시하며 물리 및 에이전트 기반 AI 평가 벤치마크를 공동으로 구축했습니다.

Mistral과 NVIDIA는 협력을 심화하기로 발표하고, Mistral Large 4 대형 모델, 물리 기반 모델링 파이프라인 및 NVIDIA의 가속 컴퓨팅 스택(CUDA-X, Warp, Omniverse)을 통합하여 항공우주, 자동차, 반도체 등 산업 분야를 위한 AI 네이티브 엔지니어링 워크플로를 공동으로 개발할 예정입니다. 양사는 물리 기반 AI와 CAE/EDA 시나리오에서의 에이전트 역량 평가를 포괄하는 오픈소스 데이터셋과 공개 벤치마크를 공동으로 출시할 계획입니다.

진행 상황 및 관련 보도

AWS Bedrock이 캐나다 리전에서 지역 간 추론 기능을 출시하여, 명목상 GPT-5.6/GPT-6/GPT-6.1 모델 호출을 지원합니다.

아마존 웹 서비스는 캐나다 고객들이 Amazon Bedrock을 통해 ca-central-1(캐나다 중부) 및 ca-west-1(캐나다 서부/캘거리) 리전에서 OpenAI GPT-5.6, GPT-6 및 GPT-6.1 모델을 크로스리전 추론(CRIS) 방식으로 호출할 수 있다고 발표했습니다. 실제 추론은 북미 또는 전 세계 AWS 상용 리전에서 이루어지며, 데이터는 캐나다 원본 리전에 정적 상태로 저장됩니다.

진행 상황 및 관련 보도