在AI大模型飞速发展的今天,存储系统面临着前所未有的挑战。本文将深入剖析ChatGPT背后的存储需求,并介绍忆联UH711a如何凭借卓越性能应对这些挑战。
一、ChatGPT“狂飙”之路背后的存储挑战
ChatGPT是由OpenAI发布的生成式人工智能聊天机器人,基于GPT-3.5架构的大语言模型(LLM)驱动。其参数量超过1746亿个,训练一次至少需要约3640 PFlop/s-day的算力。除了算力成本,数据存储在速度、功耗、容量、可靠性等方面也提出了更高要求。
ChatGPT的训练过程分为四个严苛的存储阶段:
① 数据获取
训练需要大规模的语料库,来源包括维基百科、新闻网站、社交媒体等。为缩短收集时间,需同时从多渠道采集。该阶段重点是持续写入,定期进行容量存储的非易失性写入,I/O配置通常是100%的顺序写入。
② 数据整理
从不同渠道获取的数据结构各异,需进行修复、归一化、标记注释等预处理。这是一个高并发性的混合工作负载过程,包含随机和顺序读写。极端情况下写入占比可达50%。高吞吐量、低延迟以及高QoS的存储设备是减少数据整理时间的关键。
小提示:在数据整理阶段,建议采用支持高并发随机读写的SSD,可显著缩短数据准备耗时。
③ 训练
采用自监督学习与梯度下降优化算法,涉及大量随机读取和检查点写入(约5-10%写入)。维持超快、高带宽随机读取的存储设备有利于训练,更快的读取能使有价值的训练资源得到高效利用,随机性有助于提高模型准确性。减少I/O等待时间在此阶段至关重要。
④ 推理
训练完成后,模型部署到数据中心或边缘设备进行推理。这一阶段同样需要大量读取和极低的响应时间。边缘部署还需快速写入实时数据以支持决策。随着强化学习采用增多,对存储设备性能的要求将更高。
二、AI浪潮之下,忆联UH711a能做什么
面对AI应用更严苛的存储要求,忆联UH711a作为数据中心级SSD,凭借以下四大特性可全面满足AI业务各阶段需求。
1. 全场景调优,助推AI应用落地
UH711a面向读密集、混合、写密集等业务场景,提供全面的性能与功耗调优。尤其在数据库、块存储、对象存储等对随机IOPS要求高的场景下性能显著。实测数据显示,在与国内某互联网客户合作中,混合读写满负载业务场景下,存储集群能耗比提升12.5%。

在随机读写4K性能指标上,UH711a的IOPS per Watt相比友商可提升42%,满足AI业务高吞吐量需求,加速数据收集与反馈。

图:各类场景下的IOPS per Watt测试对比
2. SR-IOV技术加持,降本增效显著
UH711a通过SR-IOV 2.0优化云业务虚拟机场景,相比SPDK方案优势显著。各VF间的性能隔离度更好,纯读纯写场景波动从5%降至3%;混合场景波动优化到5%以内。在虚拟化AI场景下,配合NVIDIA GPU Direct Storage,可提供高达7GBps、170M IOPS的访问能力,同时节约CPU算力10%。
小提示:SR-IOV技术特别适合多租户AI训练环境,能有效隔离性能干扰,提升资源利用率。
3. 支持DIF特性,保障数据可靠性
机器学习中数据错误会导致模型精度下降。UH711a支持DIF特性,实现端到端数据保护,杜绝data replacement故障。可配置多种DIF格式(512+8、4K+8、4K+64),从应用到Flash全程保护数据完整性。

4. 优异的QoS,提升用户体验
UH711a采用One Time Read技术,结合介质分组管理与最优读电压实时追踪,使99.9% IO读一次成功,延时小于350μs。前台最优响应IO,后台智能维护电压分组表,有效提升盘片QoS能力并延长寿命。

三、面向未来,忆联推动数据存储再进化
随着GPT-4等更先进大模型的出现,人工智能对存储的挑战将持续升级。忆联将在产品层面针对高稳态性能、虚拟化与高能耗需求,研发更高性能的SSD;在解决方案层面联合上下游伙伴,打造场景化存储解决方案,加快人工智能部署升级。
常见问题(FAQ)
- Q:ChatGPT训练中为何需要大量随机读取?
A:训练阶段涉及梯度下降和模型参数更新,海量参数需要频繁随机访问,高带宽随机读取能显著减少I/O等待时间,提高训练效率。 - Q:UH711a的SR-IOV特性如何降低CPU算力消耗?
A:每片盘通过SR-IOV可节省2个vCPU Core,以12盘位服务器为例可累计节省24个vCPU,释放的算力可用于额外存储租用服务,从而降低成本。 - Q:One Time Read技术如何保证低延迟?
A:该技术结合介质分组管理与最优读电压实时追踪,每次IO前查询最优电压分组表,并依据介质状态采用最优应答策略,确保99.9%的IO在350μs内完成。 - Q:DIF特性对AI模型训练有何实际意义?
A:DIF可防止数据在传输或存储过程中发生bit错误,避免因数据损坏导致模型训练偏离或精度下降,减少研发人员排查时间,保障模型质量。
通过以上分析与产品介绍,我们可以看到,针对AI大模型各阶段的存储痛点,忆联UH711a提供了全面而高效的解决方案,为AI应用的落地与升级注入强劲动力。
