天翼云中國行走進(jìn)貴州，譜寫數(shù)智“黔”行發(fā)展新篇章

8月28日，2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會在貴州貴陽舉行。會議期間，中國電信舉辦了以“聚數(shù)乘云 天翼賦能數(shù)字經(jīng)濟(jì)新生態(tài)”為主題的天翼云中國行·貴州站“數(shù)據(jù)賦能”交流活動。貴州省副省長蔡朝林、國家數(shù)據(jù)局副局長夏冰、中國電信集團(tuán)有限公司副總經(jīng)理唐珂出席活動。貴州省大數(shù)據(jù)發(fā)展管理局、貴州省通信管理局、貴州省工業(yè)和信息化廳、貴陽市人民政府、中國信息通信研究院云計算與大數(shù)據(jù)研究所等企事業(yè)單位代表蒞臨現(xiàn)場。會上，中國電信全國首發(fā)上線“魔樂（Modelers）開發(fā)者社區(qū)”。

Modelers開發(fā)者社區(qū)上線首發(fā)儀式

當(dāng)前，人工智能已進(jìn)入加快推進(jìn)應(yīng)用落地的關(guān)鍵階段。為進(jìn)一步驅(qū)動國內(nèi)人工智能產(chǎn)業(yè)發(fā)展，加快技術(shù)創(chuàng)新和商業(yè)落地，中國電信聯(lián)合伙伴發(fā)布魔樂（Modelers）開發(fā)者社區(qū)。作為開發(fā)者交流、學(xué)習(xí)和創(chuàng)新的平臺，魔樂（Modelers）開發(fā)者社區(qū)集成了模型庫、數(shù)據(jù)集和體驗空間、開發(fā)工具鏈等核心組件，覆蓋自然語言處理、視覺、音頻等多個領(lǐng)域，可提供原生模型、易用開發(fā)工具、豐富的生態(tài)資源，幫助開發(fā)者獲取領(lǐng)先的人工智能技術(shù)，打造出更有競爭力和差異化的模型及應(yīng)用。天翼云通過建設(shè)社區(qū)，構(gòu)建中文環(huán)境下的算力、數(shù)據(jù)、模型、應(yīng)用和新CDMA服務(wù)，希望吸引全國開發(fā)者，共同繁榮國產(chǎn)AI生態(tài)。

會上，天翼云科技有限公司副總經(jīng)理弓劍煒以“云智一體 國云助力數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展”為題發(fā)表演講。弓劍煒表示，天翼云構(gòu)建領(lǐng)先的“息壤”一體化智算服務(wù)體系和能力，全方位開放生態(tài)合作，為廣大客戶提供“供得上、用得起、用得好”的算力服務(wù)。“息壤”突破了多項關(guān)鍵技術(shù)，擁有強(qiáng)大的算網(wǎng)調(diào)度能力、高效的異構(gòu)計算能力、一站式的訓(xùn)推服務(wù)能力，積累了豐富的落地應(yīng)用案例。

天翼云科技有限公司副總經(jīng)理 弓劍煒

算網(wǎng)調(diào)度能力方面，“息壤”在三個方面取得顯著技術(shù)突破。通過算力插件和算力網(wǎng)關(guān)，實現(xiàn)了算力的統(tǒng)一、高效和云化接入；通過算數(shù)協(xié)同和多級算力互聯(lián)調(diào)度，實現(xiàn)了算數(shù)網(wǎng)的一體化調(diào)度，數(shù)隨算走，算隨數(shù)動，調(diào)度區(qū)域更廣，算力更泛在；借助大模型認(rèn)知能力和業(yè)務(wù)調(diào)度，實現(xiàn)算力選擇和應(yīng)用部署簡單化，故障自動恢復(fù)與負(fù)載均衡，使算力簡便易用。

基于上述技術(shù)突破和產(chǎn)品化應(yīng)用，“息壤”可服務(wù)于三大算力場景。一是天翼云自營公共算力服務(wù)平臺，目前已接入39家算力伙伴，實現(xiàn)三方各類算力可調(diào)度22EFLOPS，顯著擴(kuò)大算力規(guī)模和品類，滿足公有云客戶的多元算力需求。二是幫助客戶構(gòu)建行業(yè)算力互聯(lián)網(wǎng)，例如高校算力聯(lián)盟等，實現(xiàn)行業(yè)內(nèi)算力利用率的有效提升。三是幫助地方政府構(gòu)建城市算力互聯(lián)網(wǎng)，實現(xiàn)區(qū)域內(nèi)多方算力的一體化統(tǒng)籌調(diào)度，助力地方經(jīng)濟(jì)和產(chǎn)業(yè)發(fā)展，目前已在貴州等多個區(qū)域成功實施。

異構(gòu)計算能力方面，“息壤”具備高效的異構(gòu)計算能力，能夠破解大模型訓(xùn)練推理中面臨的大算力、高性能、高穩(wěn)定需求等挑戰(zhàn)。在大算力需求方面，天翼云建設(shè)PB級并行文件存儲，并組建低延時超大規(guī)模RDMA網(wǎng)絡(luò)，通過計算、內(nèi)存和通訊的多維優(yōu)化，提升綜合算效。在性能方面，對AI框架進(jìn)行升級、存儲加速，實現(xiàn)checkpoint文件快速保存、加載，將國產(chǎn)算力的綜合算效提升到了行業(yè)可比水平。在穩(wěn)定性方面，通過多項指標(biāo)的監(jiān)控分析，實現(xiàn)故障訓(xùn)前發(fā)現(xiàn)，有效控制大模型訓(xùn)練中斷恢復(fù)時長，實現(xiàn)訓(xùn)練任務(wù)長期穩(wěn)定、高可用運(yùn)行。此外，天翼云基于國產(chǎn)萬卡智算集群和自研智算平臺，已具備支撐萬億參數(shù)基礎(chǔ)大模型訓(xùn)練的能力。

訓(xùn)推服務(wù)能力方面，“息壤”一站式的訓(xùn)推服務(wù)能力，可降低大模型應(yīng)用創(chuàng)新開發(fā)門檻。平臺預(yù)置行業(yè)數(shù)據(jù)集、納管國內(nèi)外主流AI加速硬件、預(yù)置基于國產(chǎn)算力的多個基礎(chǔ)大模型等全棧工具鏈能力，將大模型精調(diào)場景簡化操作至選數(shù)據(jù)、選硬件和選模型三個步驟，簡化部署、提升效率；通過自研AI框架、3D并行加速、自研訓(xùn)練加速庫、容器調(diào)度優(yōu)化等核心技術(shù)，大幅提升訓(xùn)練效率；通過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術(shù)，顯著提高推理效率；通過全鏈路故障檢測、定位、告警，全鏈路日志監(jiān)控與可視化、斷點續(xù)訓(xùn)快速恢復(fù)等核心技術(shù)，實現(xiàn)訓(xùn)推過程全鏈路監(jiān)控。

人工智能產(chǎn)業(yè)的發(fā)展和繁榮離不開生態(tài)沃土的“滋養(yǎng)”。此次會議首發(fā)上線魔樂（Modelers）開發(fā)者社區(qū)。通過社區(qū)建設(shè)，天翼云將協(xié)同伙伴聚集更多的優(yōu)質(zhì)中文AI資源，加速AI應(yīng)用商業(yè)落地。天翼云還開放AI云電腦平臺，打造AI應(yīng)用中心，具備AI助手、AI空間、AI客服、AI低代碼等AI創(chuàng)新應(yīng)用，使AI應(yīng)用能夠更廣泛地接入和使用，同時推出算數(shù)融合套餐，為用戶提供更加靈活和高效的服務(wù)，全力構(gòu)建開放的模型、數(shù)據(jù)、應(yīng)用生態(tài)，共鑄AI產(chǎn)業(yè)繁榮。

中國信通院云計算與大數(shù)據(jù)研究所所長何寶宏在會上介紹了云計算和大數(shù)據(jù)賦能產(chǎn)業(yè)發(fā)展現(xiàn)狀及趨勢。他表示，隨著AI原生帶來的云技術(shù)革新和大模型規(guī)?；涞?，云計算技術(shù)與產(chǎn)業(yè)融合價值愈加凸顯，各行業(yè)上云積極性持續(xù)攀升，云計算市場將迎來新一輪增長，AI加速產(chǎn)業(yè)格局重新洗牌。展望未來，作為數(shù)字社會底座，云計算的價值將被繼續(xù)挖掘，我國也將從“數(shù)據(jù)大國”邁向“數(shù)據(jù)強(qiáng)國”。

中國信通院云計算與大數(shù)據(jù)研究所所長 何寶宏

人工智能已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的新引擎。作為云計算原創(chuàng)技術(shù)策源地、數(shù)字中國建設(shè)主力軍，天翼云將不斷深耕云計算領(lǐng)域核心技術(shù)，依托豐富的智算資源、強(qiáng)大的智算一體化平臺能力、開放的模型應(yīng)用生態(tài)和豐富的實踐案例，攜手廣大客戶與合作伙伴共同賦能千行百業(yè)數(shù)智化轉(zhuǎn)型，持續(xù)為數(shù)字經(jīng)濟(jì)發(fā)展和數(shù)字中國建設(shè)注入澎湃動能。