DeepSeek开源并发布3FS,高速并行文件系统优化AI数据访问
发布时间:2025-02-28 09:17 作者:清风不语
【DeepSeek开源并发布3FS,高速并行文件系统优化AI数据访问】八六软件园报道,据DeepSeek公告,在开源周第五天,其Fire-Flyer文件系统(3FS)正式开源,作为一款高性能并行文件系统,3FS可充分利用现代SSD和RDMA网络,实现高速数据访问,提升AI模型训练与推理效率。
3FS关键性能指标:
在180节点集群中实现6.6 TiB/s总读取吞吐量;
在25节点GraySort基准测试中达到3.66 TiB/分钟吞吐量;
单节点KVCache查询峰值吞吐量超40+ GiB/s。
3FS采用分离式架构,支持数据预处理、数据集加载、检查点存储/恢复、嵌入向量搜索及推理KVCache查询,具备强一致性语义。DeepSeek同步推出Smallpond数据处理框架,进一步优化3FS数据管理能力。
本分分类: 7*24快讯
版权声明:本文由八六软件园用户发布,不代表八六软件园立场,转载联系作者并注明出处:https://www.86zsw.com/post/22524.html