突破數(shù)據(jù)瓶頸，浪潮高性能存儲(chǔ)平臺(tái)加速產(chǎn)業(yè)數(shù)智化變革

(相關(guān)資料圖)

當(dāng)前，AIGC技術(shù)的爆發(fā)，讓產(chǎn)業(yè)智能化和智能產(chǎn)業(yè)化進(jìn)入高速發(fā)展期，數(shù)據(jù)作為關(guān)鍵生產(chǎn)要素，正在成為這輪全球增長(zhǎng)和科技創(chuàng)新的引擎。近日，浪潮參加由百易傳媒舉辦的2023全球閃存峰會(huì)，并在會(huì)上重磅發(fā)布高性能分布式存儲(chǔ)平臺(tái)AS15000G7，以在性能、管理、融合和效率方面追求極致的智慧存儲(chǔ)新品，構(gòu)筑智慧世界基石，推進(jìn)AI產(chǎn)業(yè)化變革。

AI大模型對(duì)數(shù)據(jù)存儲(chǔ)產(chǎn)業(yè)帶來(lái)的機(jī)遇與挑戰(zhàn)

AIGC是當(dāng)前通用人工智能產(chǎn)業(yè)發(fā)展創(chuàng)新的核心技術(shù)，其具備強(qiáng)大的認(rèn)知智能，在搜索引擎、藝術(shù)創(chuàng)作、影音游戲，以及金融、教育、醫(yī)療、工業(yè)等領(lǐng)域有著廣闊的應(yīng)用前景。Gartner預(yù)測(cè)，到2023年將有20%的內(nèi)容被AIGC所創(chuàng)建；到2025 年人工智能生成數(shù)據(jù)占比將達(dá)到10%。據(jù)分析師預(yù)測(cè)，到2032年，生成式AI市場(chǎng)規(guī)模將達(dá)到2,000億美元，占據(jù)人工智能支出總額的約20%，明顯高出當(dāng)前的5%。換言之，未來(lái)十年市場(chǎng)規(guī)?？赡苊?jī)赡昃蜁?huì)翻一番。

AIGC的爆發(fā)，源自于大模型的逐漸成熟，大模型成熟的先決條件是大規(guī)模高質(zhì)量的數(shù)據(jù)、強(qiáng)大的算力和成熟優(yōu)化的算法，而其中，數(shù)據(jù)質(zhì)量和數(shù)量決定了算法的效果和性能。隨著參數(shù)量和數(shù)據(jù)量的極速膨脹，數(shù)據(jù)存儲(chǔ)與管理正在成為制約AIGC產(chǎn)業(yè)發(fā)展的瓶頸：一是要支撐基于海量多元異構(gòu)數(shù)據(jù)的歸集、標(biāo)注、訓(xùn)練、推理和歸檔全生命周期管理；二是要承載AIGC數(shù)據(jù)訓(xùn)練推理時(shí)的高性能、低延時(shí)、大容量、易擴(kuò)展、自由流動(dòng)的嚴(yán)苛需求。大模型訓(xùn)練數(shù)據(jù)多元、數(shù)據(jù)作業(yè)流程長(zhǎng)、多態(tài)大模型數(shù)據(jù)量持續(xù)增長(zhǎng)、多模計(jì)算大模型性能要求高，對(duì)當(dāng)前AI數(shù)據(jù)存儲(chǔ)基礎(chǔ)設(shè)施提出了新挑戰(zhàn)：

數(shù)據(jù)歸集與準(zhǔn)備：大模型的數(shù)據(jù)包括從互聯(lián)網(wǎng)及數(shù)字圖書(shū)館上收集的海量文本型數(shù)據(jù)，以及多渠道獲取的圖片型和視頻型數(shù)據(jù)，對(duì)這些多元異構(gòu)海量數(shù)據(jù)預(yù)處理后才能用于大模型訓(xùn)練，在此作業(yè)流程中數(shù)據(jù)的搬運(yùn)和加載，要去存儲(chǔ)系統(tǒng)多協(xié)議互訪(fǎng)互通，存儲(chǔ)成為應(yīng)用平臺(tái)的關(guān)鍵瓶頸；

數(shù)據(jù)訓(xùn)練：大模型海量多元異構(gòu)數(shù)據(jù)的訓(xùn)練，通常采用將數(shù)據(jù)加載到成百上千個(gè)節(jié)點(diǎn)內(nèi)存中并行計(jì)算的方法，此過(guò)程中頻繁地從數(shù)據(jù)集取Token，每個(gè)Token一般4字節(jié)，實(shí)時(shí)高并發(fā)小IO性能需要極低的延遲，對(duì)數(shù)據(jù)存儲(chǔ)系統(tǒng)的吞吐性能提出了嚴(yán)苛的要求；

數(shù)據(jù)推理：機(jī)器學(xué)習(xí)大模型要求頻繁的參數(shù)調(diào)優(yōu)，當(dāng)服務(wù)器故障、網(wǎng)絡(luò)故障造成節(jié)點(diǎn)中斷時(shí)，需要數(shù)據(jù)存儲(chǔ)提供高帶寬，確保Checkpoint機(jī)制可以快速訪(fǎng)問(wèn)數(shù)據(jù)，使數(shù)據(jù)能夠重新加載，訓(xùn)練能夠快速恢復(fù)；

數(shù)據(jù)歸檔：越多的數(shù)據(jù)投喂結(jié)果越精準(zhǔn)的工作原理，決定了大模型訓(xùn)練存在深度學(xué)習(xí)網(wǎng)絡(luò)層數(shù)多、連接多、參數(shù)和數(shù)據(jù)集種類(lèi)復(fù)雜、數(shù)據(jù)量大的特征，大模型訓(xùn)練過(guò)程中快速迭代，產(chǎn)生大量訓(xùn)練數(shù)據(jù)和人工標(biāo)注數(shù)據(jù)，對(duì)這些資產(chǎn)高效存儲(chǔ)與管理，且最大化數(shù)據(jù)基礎(chǔ)設(shè)施投資回報(bào)比，成為數(shù)據(jù)基礎(chǔ)設(shè)施廠商必須解決的問(wèn)題。

浪潮高性能分布式存儲(chǔ)平臺(tái)AS15000G7

產(chǎn)業(yè)發(fā)展的根本在于科技創(chuàng)新。浪潮作為最早布局AI產(chǎn)業(yè)的企業(yè)之一，圍繞智算中心業(yè)務(wù)布局，打造了算力、算法、數(shù)據(jù)全棧解決方案。在數(shù)據(jù)存儲(chǔ)領(lǐng)域，浪潮秉承"存儲(chǔ)即平臺(tái)"的產(chǎn)品理念，準(zhǔn)確識(shí)別客戶(hù)痛點(diǎn)積極布局面向AIGC應(yīng)用場(chǎng)景的數(shù)據(jù)全生命周期存儲(chǔ)解決方案，并基于業(yè)界對(duì)大模型訓(xùn)練的數(shù)據(jù)存儲(chǔ)在性能、管理、融合和效率方面更極致的需求，重磅發(fā)布高性能分布式存儲(chǔ)AS15000G7平臺(tái)，助力AIGC在金融、教育、醫(yī)療等領(lǐng)域突破海量多元異構(gòu)數(shù)據(jù)存力瓶頸，加速釋放數(shù)據(jù)價(jià)值。

關(guān)鍵詞：