Hugging Face 发布 pytorch_block_sparse：用块稀疏矩阵让语言模型更小更快

Hugging Face 发布 PyTorch 扩展 pytorch_block_sparse，其 BlockSparseLinear 可直接替换 torch.nn.Linear，让语言模型更小更快。该库基于 NVIDIA CUTLASS 的块稀疏矩阵乘法，75% 稀疏度下矩阵运算约比稠密快 2 倍、内存占用减少 4 倍，但当前整体性能仍比 cuBLAS 稠密实现慢约 2 倍。