分布式訓(xùn)練DLC（Deep Learning Containers）是基于云原生的AI訓(xùn)練平臺，為開發(fā)者和企業(yè)提供靈活、穩(wěn)定、易用和高性能的機器學(xué)習(xí)訓(xùn)練環(huán)境。它支持多種算法框架，能夠處理大規(guī)模的分布式深度學(xué)習(xí)任務(wù)，同時也支持自定義算法框架。通過DLC，開發(fā)者和企業(yè)能享受到更優(yōu)的訓(xùn)練環(huán)境，在降低成本的同時提升訓(xùn)練效率。

產(chǎn)品優(yōu)勢

支持多樣算力資源：

基于靈駿智算和通用計算資源，支持云上ECS、ECI、神龍裸金屬和靈駿裸金屬等多種算力形態(tài)，實現(xiàn)異構(gòu)算力的混合調(diào)度。

多樣的分布式任務(wù)類型：

DLC作為分布式訓(xùn)練系統(tǒng)，您不需要搭建各種集群，可以直接提交Megatron、Deepspeed、Pytorch、Tensorflow、Slurm、Ray、MPI及XGBoost等十多種訓(xùn)練框架的任務(wù)。DLC預(yù)置了多種官方鏡像，支持自定義開發(fā)運行環(huán)境， 支持控制臺、SDK或命令行的提交方式， 為AI訓(xùn)練場景提供一站式服務(wù)，也為大型客戶提供簡單的集成方式。

高穩(wěn)定：

在大模型訓(xùn)練場景中，通過自研的容錯引擎AIMaster、高性能Checkpoint框架EasyCKPT、健康檢測SanityCheck以及節(jié)點自愈功能，PAI-DLC能夠有效解決多種穩(wěn)定性問題。PAI-DLC具備快速探查、準(zhǔn)確感應(yīng)與快速反饋的能力，有效降低算力損失，提升訓(xùn)練穩(wěn)定性。

高性能：

通過PAI自主研發(fā)的AI訓(xùn)練加速框架，實現(xiàn)統(tǒng)一數(shù)據(jù)并行、流水并行、算子拆分以及嵌套的并行加速策略。通過并行策略自動探索和多維度顯存優(yōu)化技術(shù)，并結(jié)合高速網(wǎng)絡(luò)的拓?fù)涓兄{(diào)度，以及通信線程池、梯度分組融合、混合精度通信、梯度壓縮的分布式通信庫的優(yōu)化，提升分布式訓(xùn)練效率。尤其在大模型分預(yù)訓(xùn)練、持續(xù)訓(xùn)練和Alignment的分布式訓(xùn)練場景下，為您提供較優(yōu)的訓(xùn)練引擎。

資源形態(tài)

通過分布式訓(xùn)練（DLC）提交訓(xùn)練任務(wù)時，根據(jù)使用場景和所需的算力類型，PAI提供了以下兩種資源形態(tài)：

靈駿智算：專為大模型訓(xùn)練設(shè)計，適用于需要大量計算資源的深度學(xué)習(xí)任務(wù)。是面向超大規(guī)模深度學(xué)習(xí)和融合智算，基于軟硬件一體優(yōu)化技術(shù)。構(gòu)建高性能異構(gòu)算力底座，提供全流程AI工程化能力，具備高性能、高效率、高利用率等核心優(yōu)勢，以滿足在大模型訓(xùn)練、自動駕駛、基礎(chǔ)科研以及金融等領(lǐng)域的廣泛需求。

通用計算：適用于常規(guī)訓(xùn)練需求，能夠靈活地支持多種規(guī)模和類型的機器學(xué)習(xí)任務(wù)。

靈駿智算和通用計算資源支持以下幾種使用方式：

資源配額：您可以通過包年包月的方式提前購買靈駿智算或通用計算資源，用于AI開發(fā)和訓(xùn)練，從而實現(xiàn)資源的靈活管理和高效利用。

公共資源：無需提前購買資源，您可以在提交訓(xùn)練任務(wù)時，按需使用靈駿智算或通用計算資源，并通過按量付費的方式進(jìn)行結(jié)算。

競價資源：靈駿智算提供競價資源，助力您以較低成本獲取所需的AI算力，從而降低任務(wù)運行所需的資源成本。

應(yīng)用場景

數(shù)據(jù)預(yù)處理

支持您自定義運行環(huán)境，可以對數(shù)據(jù)進(jìn)行離線并行預(yù)處理，從而大幅降低數(shù)據(jù)預(yù)處理工程的難度。

大規(guī)模分布式訓(xùn)練

支持使用多種開源深度學(xué)習(xí)框架進(jìn)行離線大規(guī)模分布式深度訓(xùn)練。DLC支持上千個節(jié)點同時訓(xùn)練，顯著縮短訓(xùn)練時間。

離線推理

通過DLC可以離線對模型進(jìn)行離線推理，有效增加閑時GPU機器使用率，大大降低資源浪費。

相關(guān)文檔

創(chuàng)建訓(xùn)練任務(wù)

通過控制臺、SDK或命令行提交訓(xùn)練任務(wù)，以及了解其中關(guān)鍵參數(shù)如何配置。

DLC使用案例匯總

通過實際案例，來了解如何使用DLC。

相關(guān)知識

中醫(yī)兒科的優(yōu)勢及前景
《中國家電大健康場景技術(shù)發(fā)展白皮書》及面向大健康場景的優(yōu)勢家電產(chǎn)品發(fā)布
嬰兒用品市場現(xiàn)狀及前景分析2023
營養(yǎng)健康食品市場發(fā)展概況及市場發(fā)展趨勢分析
對話慢教授李俊堃：以控糖為使命，用低GI概念重塑健康飲食新市場
2021健康食品行業(yè)市場前景及趨勢分析
2023年中國營養(yǎng)健康食品市場發(fā)展概況及市場發(fā)展趨勢分析[圖]
港股概念追蹤
移動醫(yī)療的概念與發(fā)展趨勢
酵素分析報告：發(fā)展環(huán)境分析、市場供需態(tài)勢及未來前景預(yù)測（2025版）

網(wǎng)址: dlc的概念、優(yōu)勢及使用場景 http://m.u1s5d6.cn/newsview484978.html