昇騰雲服務,爲百模千态注入強勁動力
發布時(shí)間:2024-04-15
 

人工(gōng)智能(néng)已從(cóng)萬千碎片化的小(xiǎo)模型時(shí)代走向“百模千态”的大(dà)模型時(shí)代。昇騰雲服務爲千行百業提供了(le)更多元、高(gāo)效、長穩的算(suàn)力服務選擇,企業隻需一鍵接入,即可随取随用(yòng)AI雲服務,不用(yòng)自(zì)建或改造傳統數據中心,快(kuài)速創建自(zì)己的大(dà)模型應用(yòng)。

當下(xià),算(suàn)力的緊缺和(hé)昂貴已成爲智能(néng)創新的重要制約因素,在千行百業的智能(néng)應用(yòng)開(kāi)發來(lái)說更是如此。而雲算(suàn)力作(zuò)爲一種高(gāo)效、靈活、可擴展的解決方案,正逐漸成爲突破算(suàn)力瓶頸的更優選擇。昇騰雲作(zuò)爲全棧自(zì)主的AI雲算(suàn)力底座,提供了(le)高(gāo)性價比的AI算(suàn)力,提供全鏈路雲化工(gōng)具鏈,支持高(gāo)效遷移,全棧垂直優化,支持模型/算(suàn)法高(gāo)效運行,使能(néng)百态千模。

領先優勢,高(gāo)效連接算(suàn)力

 

領先的昇騰架構

  • 昇騰達芬奇架構領先,算(suàn)力相比友商提升30%+;

  • MindSpore原生支持大(dà)模型開(kāi)發,千億參數模型調優時(shí)間縮短60%。

高(gāo)效的遷移工(gōng)具鏈

  • 全流程昇騰遷移工(gōng)具鏈,典型場景遷移至生産環境<2周;
  • 易用(yòng)的訓練、推理(lǐ)遷移工(gōng)具,支撐客戶自(zì)主昇騰遷移。

 

極緻的資源利用(yòng)

  • 統一的資源調度,資源極緻利用(yòng),綜合分配率達90%;
  • 彈性調度、訓練&推理(lǐ)融合調度,資源發放(fàng)<30分鐘(zhōng)。

 

豐富的生态

  • AI Gallery生态繁榮,沉澱行業資産10萬+;
  • 彙聚主流開(kāi)源大(dà)模型,高(gāo)效連接雲上(shàng)昇騰算(suàn)力。

 

豐富應用(yòng)場景,滿足訪問需求

 

 

大(dà)模型

 

 

1.構建大(dà)模型應用(yòng)開(kāi)發工(gōng)具鏈,使能(néng)大(dà)模型開(kāi)箱即用(yòng)
  • 構建大(dà)模型應用(yòng)開(kāi)發工(gōng)具鏈,完善雲上(shàng)數據清洗|模型微調|部署|Prompt|評測|Agent,大(dà)模型應用(yòng)開(kāi)發效率提升;
  • 原生昇騰雲組件Agent,構建“大(dà)模型+雲組件”組合競争力,如搜索Agent,大(dà)數據Agent等,使能(néng)雲上(shàng)存量用(yòng)戶零遷移構建大(dà)模型應用(yòng);

  • 支持業内主流大(dà)模型應用(yòng)開(kāi)發框架:兼容主流應用(yòng)框架, GPU生态應用(yòng)“零”改造遷移。

2.提供昇騰版主流開(kāi)源大(dà)模型
  • 支持業内主流大(dà)模型,精度、性能(néng)超越友商;

  • 内源代碼、鏡像、性能(néng)三層開(kāi)放(fàng),引領客戶技術選型,同源大(dà)模型昇騰開(kāi)發周期由月降至天。
3.提供昇騰版大(dà)模型工(gōng)具鏈,GPU大(dà)模型100%覆蓋遷移

提供昇騰版大(dà)模型原生應用(yòng)開(kāi)發工(gōng)具鏈及三方大(dà)模型工(gōng)具鏈,支持大(dà)模型調優&工(gōng)具鏈,豐富用(yòng)戶選擇。

 

 

AIGC

 

 

1.模型轉換

分鐘(zhōng)級模型轉換,提供模型轉換工(gōng)具一鍵轉換成mindpore格式。
2.自(zì)動調優
自(zì)動圖優化,生成調優策略、編譯、在NPU芯片上(shàng)驗證的閉環反饋機制,不斷叠代出更優的調優策略。
3.性能(néng)&精度校驗

提供工(gōng)具,定量分析推理(lǐ)耗時(shí),指定模型輸出進行精度誤差分析,保證切換到(dào)昇騰後性能(néng)提升&精度無損。

自(zì)動駕駛

 

 

1.感知(zhī)、仿真算(suàn)法性能(néng)深度優化
自(zì)動駕駛全鏈路算(suàn)法深度優化,針對(duì)特有的感知(zhī)、仿真生成相關算(suàn)法深度優化,性能(néng)提升明(míng)顯。
2.大(dà)規模分布式訓練
實現(xiàn)大(dà)規模分布式訓練,支撐PB級數據訓練。
3.算(suàn)力升級

快(kuài)速供應,支撐昇騰雲算(suàn)力升級,加速客戶算(suàn)法叠代。

 

 

内容審核

 

深入業務場景,提供完備成熟的内容審核/CV場景快(kuài)速昇騰遷移的方案,高(gāo)效解決業務内容審核的算(suàn)力/國産化需求,助力企業業務穩健發展。

1.快(kuài)速遷移評估
昇騰遷移工(gōng)具鏈快(kuài)速提供,模型算(suàn)子分析,模型精度診斷,模型性能(néng)測試,模型性能(néng)調優,模型轉換能(néng)力。
2.降本增效
在審核場景中,昇騰芯片綜合性能(néng)對(duì)比友商顯著提升。