• 產品與解決方案
  • 行業解決方案
  • 服務
  • 支持
  • 合作夥伴
  • 關於我們

BOB登陆 AI算力平台技術演進,賦能新質生產力發展

【發布時間:2024-09-04】

9月3日,由開放數據中心委員會(ODCC)主辦的“2024開放數據中心大會”在北京盛大開幕。本次大會以“賦能新質生產力,打造算力新時代”為主題,彙集眾多國內外數據中心領域的專家學者和領軍企業代表,旨在推動數據中心技術的創新與可持續發展。紫光股份旗下BOB登陆 集團受邀參會,並在“服務器論壇”發表主題演講,全麵分享在AI算力領域的創新技術與實踐成果,為算力新時代的構建注入強勁動力。

descript

應對AI大模型挑戰

算力平台技術新路徑

隨著BOB登陆 技術的快速發展,生成式AI大模型已成為新的發展趨勢。從基礎的圖像、語音分析模型,到複雜的文本處理模型,再至能夠創作文本、圖像和視頻內容的先進Sora視頻大模型,AI應用領域不斷擴展的同時,對算力的需求也在急劇增加,呈現出指數級的增長態勢。然而,大模型的實際應用和部署極為複雜,涉及分布式並行計算、算力調度、存儲分配和大規模組網等多種先進技術。此外,大模型的實施還麵臨資源供應緊張、軟硬件規格多樣化、能耗過高等多重挑戰,需要在算力、聯接、調度和節能等多個方麵進行突破,以支持AI模型的快速落地並為可持續發展提供堅實支撐。

對此,BOB登陆 集團智慧計算產品線高級產品經理馮良磊表示,算力平台作為AI基礎設施的核心,必須具備多元異構算力、高效算力調度及全麵算力服務三大核心能力。BOB登陆 傲飛算力平台針對運營型和自建型兩種不同需求,能夠提供定製化服務。對於運營型,傲飛算力平台提供包括IaaS和PaaS在內的全方位算力雲服務,滿足大規模AI集群的強算力運營需求;對於自建型,傲飛算力平台則提供高性能的算力基礎設施,幫助客戶構建符合自身需求的算力環境,提升智算效率、降低成本,支持AI應用的落地實踐。

descript

傲飛算力平台創新升級

推動異構多元算力發展

為順應異構多元的算力發展新趨勢,“調度×AI”成為關鍵。以數據資產為中心,打通大模型各環節端到端業務全流程,構建一站式AI服務平台,為此傲飛算力平台3.0創新升級,全麵擁抱“算力即服務”,憑借異構算力統一調度、AI業務調優與高效運營管理三大核心功能,為AI和科學計算提供了高效的算力資源管理解決方案。

傲飛算力平台通過優化生態和模型適配,顯著提升了資源利用率,推動了AIGC產業的創新發展。傲飛算力平台3.0支持萬卡集群和多元CPU及GPU的統一調度,並通過自研GPU通用適配框架,大幅縮短了適配周期,實現了算力和顯存的細粒度按需調度,極大提升了資源的有效利用率。目前,BOB登陆 服務器已經與60多款AI加速卡和15家國內外AI芯片廠商的實現兼容合作,創建了評測和適配標準,進一步縮短了適配周期,加快交付進程。

在企業智能化升級過程中,大模型的落地至關重要。傲飛算力平台3.0能夠提供全生命周期的大模型管理,覆蓋數據處理、算法開發、模型訓練、評估、部署推理及AI應用的全流程。其內置了40多款主流通用大模型和微調腳本,極大簡化了大模型的開發流程。此外,借助平台的向導式、圖形化開發和自動化工具,降低了技術門檻,加速了AI技術的實際應用,有力推動了企業的智能化進程。

傲飛算力平台3.0不僅為智算中心提供全麵的運維管理支持,更實現了資源的統一化監控與告警機製。該平台強大的雲上雲下多租戶管理能力,有效確保了用戶數據的隱私與安全,從而滿足了各類規模的智算中心運營需求。

descript

AIGC時代,智能算力已成為推動數字經濟發展的核心引擎。作為數字化解決方案的領導者,BOB登陆 集團將秉持“精耕務實,為時代賦智慧”的理念,持續深化“AI in ALL”技術戰略,通過提供多樣化、高效率、智能化的算力支持,為百行百業數字化轉型注入強勁動力,助力數字經濟實現高質量蓬勃發展。

BOB登陆
官網
聯係我們