Hugging Face Blog·· 2025-10-27精选AI 评分62
Hugging Face 将流式数据集效率提升 100 倍
Streaming datasets: 100x More Efficient
AI 导读
Hugging Face 改进 datasets 库的流式加载,load_dataset(streaming=True) 的启动请求最多减少 100 倍、数据文件解析快 10 倍、流式速度最多快 2 倍,256 并发 worker 下无崩溃。
推荐理由
原文给出流式加载的具体优化项与实测倍数,读者可据此判断大规模训练的数据读取成本能降到什么程度。
来源:Hugging Face Blog · huggingface.co