본문으로 건너뛰기
AI NEWS.ccAI正在发生 未来正在更新
뉴스 북마크
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

llama.cpp 릴리스

llama.cpp · b12054

ggml-zdnn: 호스트와 버퍼 공유 (#31481) 서명자: Aaron Teo **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12054/llama-b12054-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12054/llama-b12054-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12054/llama-b12054-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12054/llama-b12054-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/downlo

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12053

ggml : 모든 Apple 플랫폼에서 `posix_memalign` 대신 `vm_allocate` 사용 (#31437) * ggml : iOS에서 `posix_memalign` 대신 `vm_allocate` 사용 * ggml : 모든 Apple 플랫폼에서 vm_allocate 사용, 기본적으로 test-host-buffer-release 실행 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12053/llama-b12053-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12053/llama-b12053-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12053/llama-b12053-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://

진행 상황 및 관련 보도
AWS 머신러닝 블로그

Amazon SageMaker AI에서 지식 증류를 활용한 효율적인 에이전트 구축

최첨단 모델을 기반으로 구축된 에이전틱 어시스턴트는 다중 단계 툴 루프를 실행하며, 모든 단계마다 최첨단 가격을 지불하는 것은 프로덕션 규모에서 지속하기 어렵습니다. 이 게시글에서는 시퀀스 수준 지식 증류(SeqKD)를 사용하여 최첨단 트레이너의 에이전틱 행동을 Amazon SageMaker AI의 소규모 저비용 학생 모델로 전달하는 방법을 보여줍니다.

공식튜토리얼
진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12050

vulkan: RDNA3 및 RDNA4에서 작은 n 분할-K 선택 개선 (#30146) * vulkan: RDNA3 및 RDNA4에서 작은 n 분할-K 선택 개선 * 주석 처리된 코드를 제거하여 테스트 케이스 정리 요청에 따라 테스트 제거 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12050/llama-b12050-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12050/llama-b12050-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12050/llama-b12050-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.c

진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp · b12047

sycl: dmmv 코드 정리 (#31325) * sycl: q8_0 재정렬을 일반 템플릿으로 통합 * sycl: dmmv 비-K 런처를 템플릿화 * sycl: dmmv K-quant 런처를 템플릿화 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘 (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12047/llama-b12047-bin-macos-arm64.tar.gz) - macOS 애플 실리콘 (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔 (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12047/llama-b12047-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12047/llama-b12047-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12047/llama

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12038

ggml : AVX512 BF16로 clang-cl 빌드 수정 (#31276) * clang-cl 및 avx512bf16로 빌드할 때 immintrin.h 포함을 올바르게 제어 * ggml : clang-cl용 명시적 벡터 캐스팅 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/lla

진행 상황 및 관련 보도
텐센트 뉴스 · AI 채널

르쿤은 다음과 같이 입증했다: 규모는 결코 핵심이 아니며, 다음 토큰 경로는 효율성이 낮다.

편집｜Neo, 쩌난 인공지능 선구자 얀 르쿤은 줄곧 “생성형 AI는 막다른 길이며, 세계 모델만이 진정한 미래다”라고 주장해 왔다. 그에 따르면 자기회귀 생성에는 수학적 한계가 존재하며, 텍스트는 인간 지식의 대부분을 담아낼 수 없다. 또한 진정한 추론은 최적화 기반의 추론이 아니며, 지능을 평가하는 기준은 새로운 과제를 학습하는 속도와 제로샷으로 완전히 새로운 환경에 대응하는 능력이어야 한다. 이러한 관점에 따라 르쿤이 모색하는 대안적 방향은 세계...

LeCun证明了：规模从未起作用，下一token路线效率低
AI텐센트 뉴스
진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp · b12032

sycl: LevelZero 포함 파일/라이브러리를 위해 PkgConfig을 사용해 보세요 (#31076) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12031

opencl: 초기 iq3 지원 추가 (#31338) * opencl: iq3_s AOS mv 추가, Assisted-by: Codex * opencl: iq3_s SOA mv 및 타일링된 mm 추가, Assisted-by: Codex * opencl: adreno용 iq3_s noshuffle gemm/gemv 추가, Co-authored-by: Shaofei Qi, Assisted-by: Codex * opencl: adreno용 iq3_s dp4a 추가, Co-authored-by: Shaofei Qi, Assisted-by: Codex * opencl: adreno의 iq3_s 디코딩과 배치 축소 최적화, Co-authored-by: Shaofei Qi, Assisted-by: Codex * opencl: iq3_xxs AOS mv 추가, Assisted-by: Codex * opencl: iq3_xxs SOA mv 및 타일링된 mm 추가, Assisted-by: Codex * opencl: adreno용 iq3_xxs noshuffle gemm/gemv 추가, Co-authored-by: Shaofei Qi, Assisted-by: Codex * opencl: adreno용 iq3_xxs dp4a 추가, Co-authored-by: Shaofei Qi, Assisted-by: Codex * opencl: adreno의 iq3_xxs 디코딩과 배치 축소 최적화, Co-authored-by: Sha

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12029

mtmd : InternVL CLS 토큰 순서 수정 (#30886) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-b

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12028

테스트: `test-llama-archs`에서 Gemma 4 활성화(#31401) * 테스트: `test-llama-archs`에서 Gemma 4 활성화 * 테스트: `test-llama-archs`에서 Gemma 4에 GQA 사용 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-ubuntu-x64.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12027

llama : LFM3용 텐서 분할 활성화(#31431) 지원자: Claude Opus 5.5 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12024

2차원 텐서로 리셰이핑하여 3차원 텐서 대신 사용함 (lfm sc용) (#30831) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12022

서버: /v1/responses 엔드포인트가 extra_params를 수용하도록 수정 (#30959) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/downloa

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12021

mtmd : 레터박스 여백 없이 Gemma 4 이미지 크기 조정(#30922) * mtmd : 레터박스 여백 없이 Gemma 4 이미지 크기 조정 * @ngxson의 제안 적용 --------- 공동 저자: Xuan-Son Nguyen **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/do

진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp · b12020

opencl: fwht 추가 (#31434) 공동 작성자: Li He **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b1202

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12019

채팅 : reasoning_format none인 qwen3-coder에서 think block을 제거합니다(#31380) * 채팅 : reasoning_format none인 qwen3-coder 응답 형식에서 think block을 수용합니다. 지원자: Claude Opus 5.5 * 채팅 : qwen3-coder의 두 가지 think block 변형을 미리 정의합니다 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-xcframework.zip) **Linu

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12018

sycl: CPY에서 f32를 q2_0/q4_0/q5_0으로 반올림하는 문제 수정(#31120) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/ll)

진행 상황 및 관련 보도

llama.cpp 릴리스

b12007

kv-cache : GPU에서 회전 상수를 유지 (#31073) * kv-cache : GPU에서 회전 상수를 유지 도움말: Codex * tests : 상주하는 KV 회전 버퍼 검증 도움말: Codex * kv-cache : 남아 있는 다중 디바이스 회전 작업 문서화 도움말: Codex * kv-cache : 레이어별 회전 버퍼 지원 도움말: Codex * kv-cache : 하이브리드 SWA 회전 입력 및 혼합 배치 확인 수정 도움말: Codex * models : mistral-large4와 dflash에서 레이어별 회전 사용 * tests: 회전 버퍼 테스트 삭제 --------- 공동 작성자: Pascal **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12007/llama-b12007-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](ht

진행 상황 및 관련 보도