supermicro的ai存储硬件方案为大规模ai/gpu集群基础设施提供了全面的解决方案。通过可扩展单元（su，pod，例如256个gpu）进行扩展，旨在实现最高性能的ai训练和推理。
存储需求包括：
- 全部采用NVMe存储。
- 每个SU的性能要求为读取125 GBps，写入62 GBps。
- 使用InfiniBand或Ethernet/RDMA，速率为200Gb/s或400Gb/s。
- 采用并行文件系统和高性能对象存储。右下角的图片展示了单节点、单SU和4SU在不同体系下的读写带宽，根据存储硬件配置（如SATA/SAS/NVMe SSD）和网络带宽条件分为Good/Better/Best三种性能级别。
SuperMicro：AI存储硬件方案-Fig-1
企业级AI存储方案适用于Pod级别的部署，相较于云厂商，其规模和性能要求有所降低。
企业用例涵盖了推理与训练的比较，存储需求为：
- 全NVMe或PB级别的分层存储。
- 性能与总体拥有成本（TCO）之间的平衡。
- 大于100 Gbps，首选以太网。
- RDMA为可选项。
- 采用并行文件系统和高性能对象存储。
SuperMicro：AI存储硬件方案-Fig-2
在执行AIOps和MLOps时，基础计算硬件方案包括：
- GPU密集型服务器加速AI训练和推理。
- GPUDirect存储直接从/向GPU内存传输数据，消除了CPU或主内存的负载。
- Supermicro提供一系列GPU密集型服务器，满足每个应用层级的需求。
SuperMicro：AI存储硬件方案-Fig-3
计算+存储（性能层）方案中：
- 活跃数据存储于此，针对性能进行了优化，将数据尽可能快地传递给应用程序。
- 更高利用率带来更好的投资回报（ROI）。
- Supermicro Peta级存储系统使用最新的E3.S NVMe存储的1U和2U服务器。
- WEKA数据平台提供扩展式、分层存储解决方案，集群存储方案，数据保护和性能保障。
- 高性能全闪存层（All-Flash High-Performance Storage Tier）由WEKA系统管理10%-20%的存储容量。
- 应用层（Application Tier）使用GPU密集型服务器，通过GPUDirect存储进行直接传输。
SuperMicro：AI存储硬件方案-Fig-4
计算+存储（性能层）+容量层方案中，所有训练数据集和模型都存储在本地：
- 数据湖使用容量优化的存储，高容量的旋转磁盘存储提供更低的每TB成本，支持备份和分层到私有云。
- Supermicro服务器加入了一个由第三方软件合作伙伴支持的扩展集群。
- 高容量数据湖（High-Capacity Data Lake）管理80-90%的存储容量，采用本地对象存储和基于云的存储，用于灾难恢复和业务连续性。
- 应用层（Application Tier）使用GPU密集型服务器，通过GPUDirect存储直接进行传输。
- 高性能全闪存存储层（All-Flash High-Performance Storage Tier）管理10-20%的存储容量。
SuperMicro：AI存储硬件方案-Fig-5
方案验证机架视角的集群组网方案，分为三个层次：
- 应用层（Application Tier）：通过Supermicro 8U GPU服务器与1/10/25 GbE和InfiniBand网络连接至数据中心。
- 全闪存层（All-Flash Tier）：使用Supermicro Petascale存储服务器，通过400 Gbps的InfiniBand提供数据存取。
- 对象层（Object Tier）：SuperStorage服务器提供25或100 GbE网络连接，用于高容量存储。
SuperMicro：AI存储硬件方案-Fig-6
全闪存储系统参数的主要特点包括：
- 支持双Intel和单AMD单PCIe Gen5处理器。
- 支持1U E1.S和E3.S，2U E3.3 TLC、QLC和CXL设备，2U全闪存容量高达1PB。
- 使用EDSFF设计进行优化的热设计。
- 前置SSD和后置IO设计之间的平衡PCIe通道。
- 4KB随机读取IOPS可达3000万，128KB顺序读取带宽超过230 GB/s。
目标解决方案包括：
- 高性能AI SDS（软件定义存储）构建模块。
- 虚拟化和密集VDI（虚拟桌面基础设施）。
- 高性能对象存储。
- 超融合基础设施。
- 高性能CDN和视频流。
SuperMicro：AI存储硬件方案-Fig-7
