b11985

metal : 더 빠른 MXFP4 매트-벡터, 단항/이항/GLU를 위한 전체 스레드그룹 (#31075) * metal : 스레드그룹 조회 테이블 대신 fp16 비트 트릭으로 fp4 값을 디코드하고, 패킹된 니블을 정렬된 32비트 워드로 로드합니다. 이제 커널은 더 이상 스레드그룹 메모리를 사용하지 않습니다. * metal : 전체 스레드그룹을 이용해 연속적인 단항 및 이항 연산을 시작합니다. 기존에는 연속 단항 경로와 행 브로드캐스트 이항 경로가 각각 스레드그룹당 하나의 스레드를 사용했습니다. 이제 스레드그룹당 최대 256개의 스레드를 사용하며, 꼬리 부분에 대한 범위 검사를 적용합니다. * metal : GLU 행을 스레드그룹 간에 분할합니다. 기존에는 한 개의 GLU 행이 하나의 스레드그룹에서 처리되어, 단일 행 디코드 시 전체 연산에 대해 단일 스레드그룹만 사용했습니다. 이제 각 행을 최대 256개의 스레드를 갖는 여러 스레드그룹으로 분할합니다. **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘