AI 뉴스 검색

NUMA-Torch: 멀티소켓 CPU에서 컴파일러 기반 NUMA 인식 LLM 프리필

arXiv:2611.07105v1 발표 유형: 신규 초록: 온칩 캐시에 매개변수를 저장할 수 없는 충분히 큰 변환기 기반 대규모 언어 모델(LLM)의 경우, 멀티 소켓 CPU에서의 프리필 처리량은 최대 부동소수점 처리량이 아닌 지속 가능한 DRAM 대역폭에 의해 종종 제한됩니다. 표준 PyTorch 컴파일(즉, TorchInductor) 경로에서는 메모리 뱅크와 연산 코어 간의 연관성을 고려하지 않고 모델 가중치를 할당합니다. 이로 인해 가중치 접근의 상당 부분이 소켓 간 상호 연결을 통과하게 되어 각 소켓에서 사용할 수 있는 유효 메모리 대역폭이 크게 저하됩니다. 우리는 TorchInductor를 NUMA-aware로 만드는 컴파일러 수준의 솔루션을 통해 이러한 병목 현상을 해결합니다. 각 NUMA 소켓을 독립적인 텐서 병렬 파티션으로 취급하여 NUMA-aware Tensor Parallelism(NUMA-TP)을 도입합니다. 이 방법은 소켓 간에 가중치를 투명하게 분할하고 연산 커널을 스케줄링하여 스레드 풀과 메모리 할당이 CPU 연관성을 활용해 해당 소켓 내에서 엄격히 로컬로 유지되도록 합니다. 우리는 GPT-2(117M, 345M, 762M) 및 BERT(Small, Large)와 같은 표준 다중 헤드 주의와 MLP를 테스트하며, Multi-Query Attention과 GeGLU 게이트된 MLP를 결합한 Gemma 3 270M에서도 이 접근법을 평가합니다. 데이터 지역성을 엄격히 준수함으로써 우리의 접근법은 소켓 간 트래픽을 성공적으로 완화하여 듀얼 소켓 Haswell 플랫폼에서 최대 2.63배, 듀얼 소켓 Cascade Lake 플랫폼에서 최대 1.87배, 그리고 사중 소켓 Haswell-EX 플랫폼에서 최대 2.27배의 프리필 속도 향상을 달성했습니다.

FilingLoop: 기업 공시 검토 및 수정을 위한 LLM 에이전트 평가 및 진화

arXiv:2610.37905v1 발표 유형: 신규 초록: SEC EDGAR와 같은 공시 저장소는 기업 공시에 대한 웹 접근을 통해 정보에 기반한 투자를 지원합니다. 이러한 문서의 검토를 언어 모델 기반 에이전트로 지원하려면, 관련 문서들 간의 미표명된 결함을 발견하고, 누락된 회사 정보를 확보하며, 요청된 수정 사항이 증거에 근거한 요구사항을 충족하는지 검증해야 합니다. 기존의 재무 관련 질문-답변 평가는 이러한 상호작용 능력에 대해 제한적인 근거만 제공합니다. 우리는 기업 공시 검토 및 수정을 위한 대화형 벤치마크이자 자체 진화형 에이전트 프레임워크인 \textbf{FilingLoop}을 소개합니다. FilingLoop은 미국 증권거래위원회의 역사적 서신을 바탕으로, 96개 기업의 주로 IPO 검토 과제 380개를 재구성합니다.

LLM 신뢰도 검출을 위한 표현 서명의 적응적 전이

arXiv:2610.33442v1 발표 유형: 신규 요약: 대규모 언어 모델(LLMs)은 환각 및 추론 오류를 포함한 신뢰성 문제에 취약하다고 보고되고 있습니다. 기존의 품질 감지기는 내부 표현을 기반으로 비교적 높은 정확도로 신뢰할 수 없는 출력을 예측할 수 있습니다. 그러나 이러한 감지기를 학습시키기 위해서는 종종 상당한 양의 도메인 특화된 라벨링 데이터가 필요하며, 이는 새로운 도메인에 대한 적용 가능성을 제한합니다. 우리는 이와 같은 과제를 해결하기 위해 관련 도메인 간에 표현 서명을 전이하는 방법을 제안합니다. 구체적으로, 각 도메인에 대해 저차원 서명을 먼저 추출한 다음, 교차 피팅을 통해 도메인별 예측기의 구성 가중치를 학습하는 통계적 프레임워크를 구축합니다. 이 가중치는 각 소스 도메인의 예측 관련성에 따라 적응됩니다.

오디오-언어 모델에서의 제어 가능한 화법 캡션 작성에 대한 벤치마크

arXiv:2610.33036v1 발표 유형: 신규 초록: 화법 캡션 작성(SSC)은 목소리의 음색, 억양, 표현력 등과 같은 언어 외적 특성을 포착하여, 말이 전달되는 방식에 대한 자연스러운 언어 설명을 생성하는 것을 목표로 합니다. 대화형 AI 에이전트, 제어 가능한 음성 생성, 대규모 오디오 주석 작업 등 많은 하위 애플리케이션에서는 단일한 통합되지 않은 설명이 아니라, 발화자의 특성, 감정, 전달 스타일 등 특정한 측면을 구체적으로 묘사하는 차원별 스타일 캡션을 필요로 합니다. 그러나 기존 연구들은 제어 가능한 화법 캡션 작성에 대한 통일된 정식화가 부족한 실정입니다. 우리는 이 격차를 해소하기 위해 SSC를 명시적인 지침이 화법의 특정 차원을 규정하는 지침 준수형 오디오-언어 과제로 정식화합니다.

리프스킬: 재귀적 LLM 에이전트를 위한 효율적인 잎 수준 행동 근거화

arXiv:2610.32412v1 발표 유형: 신규 초록: 재귀적 대규모 언어 모델(LLM) 에이전트는 분해, 실행 및 환경 피드백을 통해 장기적인 목표를 달성하는 과제를 해결한다. 그러나 원자적 하위 작업을 생성한 뒤에는, 익숙한 명령어를 실행 가능한 행동으로 변환하기 위해 다시 동일한 대규모 모델을 호출하는 경우가 많다. 우리는 고수준 계획은 과제마다 특화되어 있는 반면, 최하위 수준의 행동 구체화는 과제 간에 반복적으로 사용되며 환경에서 허용된 행동들과 비교·검증할 수 있다는 점을 관찰하였다. 이에 우리는 리프스킬(LeafSkill)을 제안한다. 이는 의미적으로 관련된 구체화 경험을 검색하고, 행동 템플릿을 현재 객체와 허용 가능한 행동에 결합하며, 경량형 1.7B 선택기를 활용해 결합된 행동을 선택하거나 변경되지 않은 하위 작업을 원래 에이전트에게 위임하는 외부 재사용 계층이다. 기술들은 외부에 남아 있다…

버스티 워크로드 하에서 서버리스 자동 스케일링 전략의 비교 평가를 위한 통합 큐잉 기반 프레임워크

arXiv:2610.35564v1 발표 유형: 신규 초록: 서버리스 컴퓨팅 플랫폼은 매우 버스티하고 예측 불가능한 워크로드에 적응하면서도 서비스 품질(QoS)을 유지해야 합니다. QoS 요구사항과 서비스 수준 계약(SLA)을 충족시키면서 워크로드 변동에 대응하기 위해, 이러한 플랫폼들은 자동 리소스 스케일링에 의존합니다. 상용 기능형-서비스(FaaS) 플랫폼들은 활성 함수 인스턴스 수와 가용 처리 용량을 동적으로 조정하기 위해 서로 다른 자동 스케일링 전략을 채택합니다. 본 연구에서는 대표적인 세 가지 자동 스케일링 전략인 요청당 스케일링(SPR), 동시성 레벨 스케일링(CLS), 그리고 메트릭 기반 스케일링(MBS)을 모델링하고 비교합니다. 독점적인 플랫폼별 구현에 의존하지 않는 체계적인 평가를 가능하게 하기 위해, 우리는 de

데이터 문화가 제로 트러스트에서 배포 가능한 AI 분석 에이전트에 이르기까지의 여정을 어떻게 측정했는가

Data Culture는 AI 분석 도입 초기의 정확도를 0%에서 94.7%로 끌어올린 3단계 평가 프레임워크를 구축했습니다.

무엇을 말할 것인가를 넘어서: 늑대인간 에이전트를 위한 내적 생각을 활용한 선제적 발화 타이밍

arXiv:2610.32107v1 발표 유형: 신규 요약: 대화에 참여하는 것은 단순히 무엇을 말할지 결정하는 것뿐만 아니라, 과연 말을 해야 하는지 여부까지 포함합니다. 이러한 판단은 특히 늑대인간 게임과 같이 참가자들의 이해관계가 상충되는 환경에서 더욱 중요한 의미를 지닙니다. 왜냐하면 발화와 침묵 모두 타인에 의해 해석되고 평가되기 때문입니다. 따라서 언제 말을 할지, 그리고 무엇을 말할지를 결정하는 것은 늑대인간 게임을 플레이하는 LLM 에이전트에게 매우 중요합니다. 본 연구에서는 AIWolfDial 공동 과제의 Anytime Utterance Track를 위해 개발된 늑대인간 AI 에이전트를 소개합니다. 우리 시스템은 기존의 Inner Thoughts 프레임워크를 기반으로 하며, 이는 대화 중에 내적 생각을 생성하고 각 생각의 가치를 평가함으로써 발화 타이밍을 결정합니다.

AI-포-사이언스 에이전트는 모델의 안전성을 보장할 수 있을까?

arXiv:2610.32045v1 발표 유형: 신규 초록: AI-포-사이언스 에이전트는 과학적 가설을 제시하고, 자율 실험을 수행하며, 증거를 해석하는 데 점점 더 널리 활용되고 있습니다. 이러한 에이전트들은 도메인 특화형 에이전트 하네스에 대규모 언어 모델(LLM)을 통합하여 구축되며, 이는 LLM의 과학적 역량을 향상시키고 모델이 과학적 도구들을 조율할 수 있도록 합니다. 본 연구에서는 LLM이 AI-포-사이언스 에이전트 하네스에 통합될 때 모델의 안전성이 유지되는지 여부를 검토합니다. 우리는 50개의 유해한 화학 관련 요청에 대해 다섯 가지 에이전트 하네스를 평가합니다. 구체적으로, 직접 프롬프팅, 두 가지 간단한 적대적 프롬프팅 전략, 그리고 적응형 공격 하에서 안전성 행동이 어떻게 변화하는지를 분석합니다. 최근 출시된 GPT의 네 가지 변종을 대상으로 한 결과는 다음과 같습니다.

LLM 평가에서 전체 F1 점수만을 사용해 자동 채점기를 검증하는 것은 오해를 유발할 위험이 있다: 새로운 연구는 구체적인 프롬프트 차이에 맞춰 검증해야 함을 강조한다

arXiv 논문(2610.31678v1)은 대화형 대규모 언어 모델 평가에서 자동 채점 도구의 전체 정확도나 F1 점수에만 의존하면 프롬프트 특이적 오류가 가려져 프롬프트 효과에 대한 잘못된 판단을 초래할 수 있다고 지적한다. 실증 분석에 따르면, 동일한 채점 도구가 서로 다른 프롬프트에서 보이는 위양성률은 2.6%에서 33.3%로 크게 차이 나며, 겉보기로 유의미한 9.3점의 효과도 두 개의 LLM 심사 하에서는 2.3점으로 축소되고 통계적으로 유의미하지 않게 된다.

추천 이유：이 연구는 실제 실험 데이터(6개의 모델, 180개의 가상 개체 질문, 6가지 프롬프트 조건)를 기반으로 하며, 현재 LLM 평가에서 널리 존재하는 방법론적 취약점을 밝혀냈습니다—즉, 스코어러의 전반적인 성능을 핵심 비교 과제에서의 신뢰성과 동일시하는 문제입니다. 핵심 주장(각 프롬프트를 별도로 검증하고 불확실성을 반영해야 한다는 점)은 명확한 실증적 근거와 실행 가능한 권고안을 바탕으로 하며, 발표 시점(2026년 10월 26일)과 출처의 신뢰성(arXiv 사전출판 플랫폼) 측면에서도 높은 시의성을 갖습니다.

연구는 코딩 에이전트 벤치마크에서의 ‘규범-오프체인 오라클 갭’ 문제를 밝혀냈다.

2026년 10월 24일 arXiv에 게재된 한 논문은 현재 주류 코딩 지능 에이전트 벤치마크(예: SWE-Milestone)에 ‘규격–오라클 격차’가 존재한다고 지적한다. 즉, 과제의 자연어 설명에는 테스트에 필요한 핵심 구현 세부사항(예: 상수 이름, 모듈 경로, 정확한 오류 메시지 등)이 포함되어 있지 않아, 평가 결과가 실제로는 상위 코드를 얼마나 재현하는지에 대한 능력을 측정할 뿐이며 진정한 이해와 추론 능력을 반영하지 못한다는 것이다.

추천 이유：이 연구는 해당 유형의 편향을 최초로 형식적으로 정의하고, 다섯 가지 언어를 포괄하는 정적 감사 도구를 구축하여 정확도 89.2%, 재현율 92.9%를 달성했으며, SWE-Milestone에서 25개의 마일스톤 작업에 추론할 수 없는 암시적 의존성이 존재함을 실증적으로 밝혀냈습니다. 이는 실패율을 크게 높였으며(80.6% 대 48.4%), 현재 순위표가 ‘명칭 복사’형 에이전트를 체계적으로 선호할 수 있음을 드러냅니다. 연구 결과는 감사 도구와 수정 자료를 오픈소스로 공개하여 방법론적 및 실무적 측면에서 모두 높은 가치를 지닙니다.