본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

FlatCake: LLM 서비스를 위한 평면형 KV캐시 저장 아키텍처

arXiv:2610.38355v1 발표 유형: 신규 초록: KV 캐시 재사용은 LLM 서비스를 가속화하지만, 기존 시스템들은 호스트 DRAM과 NVMe SSD를 계층적 하위 구조로 관리하며, DRAM을 중간 캐시로 활용합니다. 그러나 실제 생산 환경의 LLM 워크로드는 이러한 계층 구조의 두 가지 전제 조건을 모두 무너뜨립니다. 첫째, 이중 모드 재사용 방식은 DRAM의 시간적 필터링 기능을 무력화합니다. 왜냐하면 워크로드는 재사용 거리가 긴 일회성 블록이나 DRAM 용량을 초과하는 수기가바이트 규모의 에이전트 세션으로 구성되어 있어 SSD가 핵심 읽기 경로에 위치하게 되기 때문입니다. 둘째, DRAM의 스테이징과 제거 순서에 따른 배치 방식은 SSD 복원 과정을 병목으로 만듭니다. 인-플라이트 프리픽스를 위해 호스트 스테이징 버퍼를 유지하면 부하 상황에서 컨텐션을 유발해 프리페치 작업이 중단되며, 증분식 제거는 세션의 블록들을 SSD 전체에 분산시켜 대규모 연속 읽기를 방해합니다. 우리는 p

진행 상황 및 관련 보도

CVE 취약점 수가 거의 수직으로 급증하며, AI가 보안 연구의 ‘확대기’ 역할을 하고 있다

기술 매체 gigazine은 개발자 @0x_Osprey가 웹 기반 CVE Tracker를 출시했다고 보도했다. 이 도구는 CVE 번호를 부여받은 취약점 수의 변화를 시각화된 그래프로 제공하며, 2026년 이후 곡선이 거의 수직으로 상승하고 있음을 보여준다. CVE는 전 세계적으로 통용되는 취약점 식별 체계로, 보안 연구원과 제조사, 기업들이 이를 통해 결함을 추적하고 공지하며 수정한다. 해당 도구는 공개된 기록을 정리해 트렌드 차트로 표시하고, 주요 AI 모델의 출시 시점까지 겹쳐 표시함으로써 취약점 증가와 AI 출시 간의 관계를 직관적으로 비교할 수 있도록 한다.

CVE 漏洞数近乎垂直拉升,AI 成安全研究"放大器"
진행 상황 및 관련 보도

AI 수요 속에서 마벨의 초기 칩 제조 베팅이 성과를 거두다

8년 전, 칩 제조업체 마벨 테크놀로지 인코퍼레이션은 나노미터 기술을 한 단계 앞서 나가기로 결정했고, 그 이후로 성장세는 꾸준히 이어지고 있다. 반도체 제조에서 나노미터 표기는 트랜지스터의 정확한 물리적 크기가 아니라, 프로세스 노드로 불리는 칩 제조 기술 세대를 나타낸다. 고급 프로세스 노드는 일반적으로 더 높은 트랜지스터 밀도와 성능 향상을 가능하게 한다 […] 포스트 ‘AI 수요 속에서 마벨의 초기 칩 제조 모험에 대한 보상이 나타나다’는 실리콘앵글에 처음 게재되었다.

진행 상황 및 관련 보도

NVIDIA는 GTC 베를린에서 로컬 AI 하드웨어 전 제품 라인업을 발표했습니다: RTX 스파크, DGX 스파크 및 DGX 스테이션의 유럽 진출

2026년 10월 베를린에서 열린 GTC 컨퍼런스에서 NVIDIA는 개인, 개발자 및 기업 사용자를 위한 세 가지 온프레미스 AI 하드웨어 플랫폼을 공식적으로 출시했습니다: RTX Spark(Windows PC용 개인형 인공지능 에이전트), DGX Spark(Linux 개발 클러스터) 및 DGX Station(최첨단 AI 워크스테이션)이며, 동시에 다수의 소프트웨어 업데이트, 모델 지원 및 생태계 통합을 발표했습니다.

진행 상황 및 관련 보도

GTC 베를린 2026: 젠슨 황의 기조연설에서 AI 공장, 안전한 지능형 에이전트 및 유럽 AI 생태계 전략을 전면적으로 발표

베를린 템포드롬에서 열린 GTC 베를린 2026 컨퍼런스에서 엔비디아의 CEO 젠슨 황은 다음과 같은 주요 성과를 발표했습니다: DSX POD 모듈형 AI 공장, 베라 루빈 풀스택 AI 에이전트 플랫폼, OpenShell 보안 아키텍처, 에이전트 지식 파운데이션 지식 계층, 그리고 Agile ONE SN 휴머노이드 로봇 참조 플랫폼을 선보였습니다. 또한 100억 유로 규모의 유럽 AI 투자 약속을 발표하고, 이를 통해 12,000여 개의 파트너사를 포괄할 것임을 밝혔으며, 유럽이 자주적이고 통제 가능한 AI 경제 인프라 구축을 가속화하고 있다고 강조했습니다.

진행 상황 및 관련 보도