본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

이질성이 언제 가치를 발휘하는가? GPU와 WSE 시스템의 상호보완성 이해

arXiv:2610.39222v1 발표 유형: 신규 초록: AI 가속기 아키텍처가 점점 더 다양해짐에 따라, 서로 다른 아키텍처를 통합한 단일 시스템 구현이 새로운 이종 컴퓨팅 패러다임으로 부상하고 있다. GPU와 WSE는 연산, 메모리, 통신 구조에서 상당히 차이를 보이며, 이로 인해 아키텍처 간 상호보완성과 추가적인 오버헤드가 동시에 발생하지만, 이러한 이질성을 실제 성능 향상으로 전환하는 방법은 아직 명확히 밝혀지지 않았다. 이 문제를 해결하기 위해 우리는 GPU–WSE 이종 실행 환경과 상호보완성을 활용할 수 있는 조건을 규명하는 계층적 벤치마킹 방법론을 제안하며, 또한 이질성이 시스템 차원의 성능 향상을 가져오는 경우와 병목 현상으로 작용하는 경우를 식별하는 분석적 성능 모델을 함께 제시한다.

진행 상황 및 관련 보도

FlatCake: LLM 서비스를 위한 평면형 KV캐시 저장 아키텍처

arXiv:2610.38355v1 발표 유형: 신규 초록: KV 캐시 재사용은 LLM 서비스를 가속화하지만, 기존 시스템들은 호스트 DRAM과 NVMe SSD를 계층적 하위 구조로 관리하며, DRAM을 중간 캐시로 활용합니다. 그러나 실제 생산 환경의 LLM 워크로드는 이러한 계층 구조의 두 가지 전제 조건을 모두 무너뜨립니다. 첫째, 이중 모드 재사용 방식은 DRAM의 시간적 필터링 기능을 무력화합니다. 왜냐하면 워크로드는 재사용 거리가 긴 일회성 블록이나 DRAM 용량을 초과하는 수기가바이트 규모의 에이전트 세션으로 구성되어 있어 SSD가 핵심 읽기 경로에 위치하게 되기 때문입니다. 둘째, DRAM의 스테이징과 제거 순서에 따른 배치 방식은 SSD 복원 과정을 병목으로 만듭니다. 인-플라이트 프리픽스를 위해 호스트 스테이징 버퍼를 유지하면 부하 상황에서 컨텐션을 유발해 프리페치 작업이 중단되며, 증분식 제거는 세션의 블록들을 SSD 전체에 분산시켜 대규모 연속 읽기를 방해합니다. 우리는 p

진행 상황 및 관련 보도

해설을 읽지 않고도 점수를 매기는 방법: 자동 해석 가능성 평가 데이터의 구조적 단축법

arXiv:2610.37676v1 발표 유형: 신규 요약: 자동 해석 가능성은 스파스-오토인코더(SAE) 특성에 대한 설명을 평가하기 위해, 모델에게 평가 예시들에서 해당 특성이 활성화되는 위치를 토큰별로 예측하도록 하거나, 표시된 토큰들이 그 특성에 부합하는지를 판단하도록 요청합니다. 우리는 평가 데이터의 표준 파이프라인이 생성한 결과를 설명을 읽지 않고도 점수 매길 수 있음을 발견했습니다. Neuronpedia에 저장된 GPT-2 소형 특성 500개에 대한 무작위 퍼징 실행 결과에 따르면, 활성화된 예시 중 91.3%가 중심 토큰에 최대값이 위치하도록 잘려 있으며, 중심 토큰이 표시되어 있을 때 “예”라고 판단하는 규칙은 저장된 LLM 점수 매기기 도구들(파이프라인 코드로부터 재구성된 표시 기반 판정 결과를 바탕으로 재산출)의 정확도 0.838에 비해 0.979의 균형 잡힌 정확도를 달성합니다. 또한 표시 개수만을 기준으로 판단하는 규칙은 0.969의 정확도를 보입니다. T

진행 상황 및 관련 보도

Seq@K: 순차적 피드백 하에서 언어 모델 평가

arXiv:2610.37859v1 발표 유형: 신규 초록: 언어 모델 기반 에이전트는 맥락 속의 자연어로부터 학습할 수 있다는 점에서 기존 지능형 시스템과 근본적으로 다릅니다. 이러한 능력은 현대 에이전트 워크플로우에서 널리 사용되는 방식인, 피드백에 따라 답변을 반복적으로 개선해 나가는 것을 가능하게 합니다. 그러나 커뮤니티에서는 주로 Pass@1이나 Pass@K와 같은 지표로 모델을 평가해 왔으며, 이는 모델이 이전 시도에서 얻은 피드백을 어떻게 활용하는지를 포착하지 못합니다. 우리는 각각의 이전 시도가 실패했을 때마다 피드백을 제공받아, K번의 연속된 시도 내에 문제를 해결할 수 있는지 여부를 측정하는 자연스러운 평가 프로토콜인 Seq@K를 제안합니다. 장기 계획을 검토하는 다단계 에이전트 벤치마크와 달리, Seq@K는 개선이라는 핵심 역량을 분리하고 이를 정식화합니다.

진행 상황 및 관련 보도

와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치

소비자를 위한 인공지능 비서를 개발하는 와비 주식회사는 오늘 시드 투자 라운드에서 5,500만 달러를 조달했다고 발표했습니다. IVP가 이 시드 라운드를 주도했으며, 아마존 알렉사 펀드, 안드레센 호로위츠, 포어러너 등이 참여했습니다. 또한 세일즈포스 주식회사의 CEO 마크 베니오프와 쇼피파이 주식회사의 CEO 토비 뤼트케를 포함한 엔젤 투자자 그룹도 함께했습니다. 이 기사의 원문은 “와비, 소비자 지향형 인공지능 비서를 위해 5,500만 달러 유치”라는 제목으로 실리콘 앵글에 처음 게재되었습니다.

진행 상황 및 관련 보도

이제 Gemini 채팅에서 Google 문서 파일을 직접 생성하고 편집할 수 있습니다.

이제 PDF, Google 문서, Google 스프레드시트, 프레젠테이션 자료, Markdown 파일, TXT 파일 및 코드를 Google Gemini 내에서 직접 생성하고 미리 보고 편집할 수 있습니다. 새로운 파일 편집 기능은 오늘부터 모든 Gemini 사용자에게 제공되며, PDF 미리 보기와 편집은 웹과 모바일 모두에서 지원되지만 다른 모든 파일 형식은 현재 웹 버전에서만 이용 가능합니다.

STK255_Google_Gemini_B_474198
진행 상황 및 관련 보도

AI가 신입 사원들을 고객 업무로 더 많이 내몰면서, 인튜잇은 회계 교육을 새롭게 재편하고 있다

AI가 일상적인 재무 업무를 자동화함에 따라, 과거 초급 회계 직무를 규정하던 반복적 작업들은 점차 사라지고 있으며, 자문 서비스가 기업의 가치 창출 방식의 중심으로 부각되고 있다. 이러한 변화는 대학들이 교과서 속 모습과는 매우 다른 직무에 맞춰 졸업생들을 준비시키기 위해 분주히 움직이도록 만들었다. 교실과 실제 업무 간의 격차를 해소하는 것이 이제 인튜잇의 최우선 과제가 되고 있다. 이 글은 ‘AI가 신입 사원들을 고객 업무로 더 많이 내몰면서, 인튜잇은 회계 교육을 새롭게 재편하고 있다’라는 제목으로 처음 실렸으며, 원문은 SiliconANGLE에서 게재되었다.

진행 상황 및 관련 보도

GitHub Copilot Fusion으로 모델을 라우팅하고 오케스트레이션하세요

GitHub Copilot Fusion이 일반에 공개되었습니다. 각 작업마다 개별 모델을 선택하는 대신, Copilot Fusion을 선택하면 Copilot이 지능적으로 어떤 모델을 사용할지 라우팅하고 오케스트레이션해 줍니다.… 글 ‘GitHub Copilot Fusion으로 모델을 라우팅하고 오케스트레이션하세요’는 The GitHub Blog에 처음 게재되었습니다.

新闻源配图 · GitHub Copilot changelog
진행 상황 및 관련 보도

GitHub Copilot 앱용 보안 확장 기능

이제 GitHub Copilot 앱을 떠나지 않고도 리포지토리의 GitHub 코드 스캐닝 알림을 처리할 수 있습니다. 현재 공개 미리보기 중인 새로운 GitHub 보안 확장 기능을 통해 가장 중요한 알림을 찾고, Copilot에 이를 설명하거나 수정을 도와달라고 요청할 수 있습니다. 이 글은 GitHub 보안 확장 기능이 처음으로 게시된 GitHub 블로그의 내용입니다.

新闻源配图 · GitHub Copilot changelog
진행 상황 및 관련 보도

Copilot에서 이미지를 직접 생성하고 편집하세요

이제 GitHub Copilot에서 자연어를 사용해 이미지를 생성하고 편집할 수 있습니다. 이미지를 요청하면, 선택한 추론 모델이 …에 의해 구동되는 전용 이미지 생성 도구를 호출합니다. 이 글은 ‘Copilot에서 이미지를 직접 생성하고 편집하세요’라는 제목으로 GitHub 블로그에 처음 게시되었습니다.

新闻源配图 · GitHub Copilot changelog
진행 상황 및 관련 보도

FinLLM-KG: 알고리즘 트레이딩에서의 금융 감성 분석을 위한 지식 그래프 강화형 LLM

arXiv:2610.36083v1 발표 유형: 신규 초록: 생성형 AI의 최근 발전은 사후 학습된 금융 전용 대규모 언어 모델(LLMs)을 통해 금융 감성 분석을 크게 향상시켰습니다. 그러나 기존 접근법들은 각 기사의 감성을 개별적으로 예측하는 데에 그치고, 흑백 상자와 같은 방식으로 작동하여 맥락 이해를 제한하고 고위험 금융 의사결정에의 적용을 저해합니다. 이에 따라 우리는 FinLLM-KG를 제안합니다. 이는 모델에 독립적인 프레임워크로, 인과적 LLM과 금융 지식 그래프를 결합하여, 모델 가중치를 업데이트하지 않고도 추론 시 SEC 10-K 서류로부터 시간적 근거를 갖춘 기업 수준의 지식을 주입할 수 있도록 설계되었습니다. FinLLM-KG 내에서는 맥락이 자연어로 작성된 기업 프로필 또는 소규모 관계 집합의 형태로 제공됩니다.

진행 상황 및 관련 보도

에이전트 간 인수 이행에 대한 벤치마킹 과제

arXiv:2610.36523v1 발표 유형: 신규 초록: 에이전트들이 더 긴 작업을 협업하는 과정에서, 작업이 완료되기 전에 책임이 모델 간에 이양될 수 있습니다. 수신 모델은 남아 있는 요구사항을 해결하면서, 이전의 결정, 관찰 및 행동을 바탕으로 작업을 이어가야 합니다. 이러한 전환 과정을 평가하려면, 인수 이전에 보존된 정보와 수신 모델이 어떻게 작업을 계속해 나가는지 사이의 관계를 연결해야 하며, 이는 단순히 작업 성공률과 기억 유지 점수만으로는 포착할 수 없습니다. 우리는 인수 이행 상태 연속성 벤치마크(HSC-Bench)를 도입하며, 이는 작업 인수의 두 가지 상호보완적인 측면을 평가하는 1,039개의 과제로 구성되어 있습니다: 관련 저장소 증거를 복구하고, 이미 설정된 대화, 도구 및 파일 작업 상태에서 계속 진행하는 능력입니다. 여섯 개의 수신 모델 간 비교 결과에 따르면, 구조적…

진행 상황 및 관련 보도

적응 전 교정: 연합 적응형 최적화를 위한 기울기 교정

arXiv:2502.02727v4 발표 유형: replace-cross 초록: 클라이언트 드리프트 보상 방법은 연합 학습(FL)에서 데이터 이질성의 영향을 완화합니다. 드리프트 교정은 확률적 경사 하강법(SGD) 기반 연합 학습에서는 잘 연구되어 왔지만, 적응형 클라이언트 최적화 알고리즘과의 상호작용에 대해서는 아직 충분히 이해되지 않았습니다. Adam과 같은 적응형 최적화 알고리즘은 과거 기울기의 이동평균을 기반으로 각 업데이트를 구성하므로, 최종 업데이트 방향만을 교정하면 이러한 평균과 그 안에 포함된 드리프트는 그대로 유지됩니다. 우리는 이러한 이동평균에 들어가기 전에 각 기울기를 먼저 교정하는 연합 적응형 기울기 교정({\tt FA-GC})을 제안하고, 이를 최종 방향에 교정을 추가하는 연합 적응형 단순 추적({\tt FA-NT})과 비교합니다. 우리는 실험을 통해, 이상적인

진행 상황 및 관련 보도

저랭크 다중선형 분해를 통한 LLM 환각 탐지

arXiv:2610.36191v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 흔히 유창하지만 사실과는 맞지 않는 응답을 생성하여 그 신뢰성에 대한 우려를 불러일으킵니다. 최근의 환각 탐지기들은 점점 더 내부 표현을 활용하고 있지만, 고차원의 숨은 상태에서 유의미한 신호를 추출하는 것은 여전히 어려운 과제입니다. 기존 접근법들은 종종 선택된 활성화 값이나 풀링 기반 압축에 의존하는데, 이로 인해 트랜스포머 계층, 특징 모드 및 토큰 전반에 걸쳐 분산된 판별적 정보를 놓칠 수 있습니다. 우리는 LOTUS(Low-rank Order-statistic TUcker-based Subspace learning)를 제안합니다. 이는 환각 탐지를 위한 다중선형 저랭크 분해 프레임워크로서, LLM의 숨은 상태로부터 컴팩트한 표현을 추출하면서도 레이블에 대한 의존성을 줄여줍니다.

진행 상황 및 관련 보도