DeepSeek第五天开源猛料:3FS并行文件系统实现6.6 TiB/s吞吐量
2025年2月28日,DeepSeek在开源周的最后一天放出了大招——3FS并行文件系统。3FS,即Fire-Flyer File System,专为应对人工智能训练和推理任务挑战而设计,充分利用了现代SSD和RDMA网络带宽。
在180节点集群测试中,3FS实现了惊人的6.6 TiB/s总读取吞吐量,每个客户端节点的KVCache查询峰值吞吐量超过40 GiB/s。这一高性能表现得益于其分离式架构和强一致性保证,同时全面支持V3/R1的训练数据预处理、数据集加载、检查点保存/重载、嵌入向量搜索和KVCache查询推理。
3FS的开源,无疑为AI数据处理设立了新的标准。其代码库已发布于GitHub平台,并获得了广泛关注。这一创新成果的背后,是DeepSeek团队将小事做到极致的理念,以及车库黑客精神的体现。更多详情,请访问[GitHub项目页面](https://github.com/deepseek-ai/3FS)。
免责声明:免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!