Easel AI가 이제 Replicate에 있습니다
Easel AI의 고급 얼굴 교체 및 AI 아바타가 이제 Replicate에서 제공됩니다.
AI NEWS JOURNAL
AI 뉴스 검색
제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
FLUX는 빠르고 오픈 소스입니다
FLUX는 이제 Replicate에서 훨씬 더 빠르며, 저희의 최적화 방식을 오픈소스로 공개하여 여러분이 그 작동 원리를 정확히 확인하고 이를 기반으로 발전시킬 수 있도록 했습니다.
NVIDIA H100 GPU가 출시되었습니다
NVIDIA H100 GPU가 출시되었으며, 성능이 향상되고 비용은 절감되었습니다.
오픈 언어 모델의 모든 학습 단계에서 아첨 행동 탐지
arXiv:2610.37788v1 발표 유형: 신규 초록: 언어 모델 기반 비서는 사용자가 잘못된 답변을 제시하면 때때로 올바른 답변을 수정하기도 한다. 이러한 행동은 ‘아첨’으로 불리며, 일반적으로 선호 기반 사후 학습에 기인한다고 여겨지지만, 초기 측정에서는 사전 훈련된 모델에서도 발견되었다. 우리는 이 현상이 어디에서 발생하는지 파악하기 위해 학습의 모든 가능한 단계에서 이를 측정하였다: 기본 모델부터 감독 학습, 선호도 최적화를 거쳐 출시에 이르기까지, 5개 계열의 오픈 체크포인트 13개를 대상으로 분석했다. 또한, 주입된 주장이 모델의 답변을 얼마나 변화시키는지와 답변이 얼마나 견고하게 유지되었는지를 구분하고, 주장의 주체와 그 신뢰도, 그리고 주장의 강도를 다양하게 설정하여 실험을 진행했다. 그 결과, 서로 다른 기원을 가진 두 가지 아첨 행동이 나타났으며, 이 두 행동 모두 다양한 데이터셋에서 재현되었다. 주장에 대한 복종은 i
케빈 루스는 AGI에 사로잡혔다. 당신은 왜 그렇지 않은가?
오늘은 AI 산업의 최근 급격한 변화를 상세히 다룬 신간 『AGI 연대기』의 저자이자 기자인 케빈 루스와 이야기를 나눕니다. 케빈은 오랜 기간 뉴욕타임스의 기자로 활동해 왔으며, 인기 팟캐스트 ‘하드 포크’의 진행자이기도 합니다. 그러나 그는 이 프로그램의 친구인 케이시 뉴턴과 함께 최근 […]을 떠났습니다.
이 AI 라디오 진행자는 스페인어를 구사하며 이민자를 지지합니다. 그는 청취자들의 마음을 사로잡고 있습니다.
코요텍은 이중언어를 구사하며 욕을 하며 청취자들에게 ICE에 맞서 스스로를 방어하는 방법을 알려줍니다. 이러한 인기의 배경에는 더 많은 방송사들이 인공 성격을 실험하고 있기 때문입니다.
KVStream: 대규모 LLM 서비스에서의 KV 캐싱을 위한 적응형 병렬 스토리지 관리
arXiv:2610.31827v1 발표 유형: 신규 초록: 에이전트 기반, 코드 작성 및 문서 처리 워크로드를 위한 장문 컨텍스트 LLM 서비스에서는 키-값(KV) 캐시가 GPU와 호스트 메모리를 초과하여 사용되므로, 접두사 검색을 위한 추론 단계에서 스토리지 I/O가 핵심 경로로 작용하게 됩니다. 단일 노드 로컬 NVMe는 모든 검색 작업을 담당하는 반면, 노드들이 이미 마운트한 병렬 파일 시스템이나 클라우드 파일 스토어에는 거의 추론 트래픽이 발생하지 않습니다. 우리는 이러한 계층 간의 접두사 검색을 집합 대역폭 스케줄링으로 포착하고, 한 단계의 읽기 작업을 일괄 처리하며, 전방향 패스 이후에 쓰기를 지연하고, 각 청크를 모든 계층에 복제하며, 각 계층이 비워질 때 다음 미처리 청크를 적응적으로 요청하도록 하는 KVStream이라는 KV 캐시 엔진을 제안합니다. 우리의 성능 모델은 이 라우팅 방식이 집합적
