제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
qwenGPU는 4개의 레인 SIMT GPU를 Qwen3.5-2B에 45개의 미훈련 레이어로 컴파일합니다. 이 모델은 Gated DeltaNet 상태를 레지스터와 메모리로 활용하여 실제 CUDA 실행의 모든 단계를 스스로 작성합니다. “qwenGPU를 만나보세요: CUDA를 실행하는 45개의 컴파일된 GPU 레이어를 갖춘 Qwen3.5-2B”라는 글은 MarkTechPost에 처음 게시되었습니다.
metal : 더 빠른 MXFP4 매트-벡터, 단항/이항/GLU를 위한 전체 스레드그룹 (#31075) * metal : 스레드그룹 조회 테이블 대신 fp16 비트 트릭으로 fp4 값을 디코드하고, 패킹된 니블을 정렬된 32비트 워드로 로드합니다. 이제 커널은 더 이상 스레드그룹 메모리를 사용하지 않습니다. * metal : 전체 스레드그룹을 이용해 연속적인 단항 및 이항 연산을 시작합니다. 기존에는 연속 단항 경로와 행 브로드캐스트 이항 경로가 각각 스레드그룹당 하나의 스레드를 사용했습니다. 이제 스레드그룹당 최대 256개의 스레드를 사용하며, 꼬리 부분에 대한 범위 검사를 적용합니다. * metal : GLU 행을 스레드그룹 간에 분할합니다. 기존에는 한 개의 GLU 행이 하나의 스레드그룹에서 처리되어, 단일 행 디코드 시 전체 연산에 대해 단일 스레드그룹만 사용했습니다. 이제 각 행을 최대 256개의 스레드를 갖는 여러 스레드그룹으로 분할합니다. **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘
