微軟和NVIDIA共同推出迄今為止訓練的最大的語言模型

微軟和英偉達今天宣布了由DeepSpeed和Megatron驅動的Megatron-Turing自然語言生成模型(MT-NLG),這是迄今為止訓練的最大和最強大的解碼語言模型 … 例如,通過緊密合作,英偉達和微軟將最先進的GPU加速訓練基礎設施與尖端的分佈式學習軟件堆棧相融合,實現了前所未有的訓練效率 … 微軟與NVIDIA建立了高質量的自然語言訓練語料庫,其中包含數千億個標記,並共同開發了訓練配方,以提高優化效率和穩定性。

媒體報道:
21-10-11 品玩: 微軟和NVIDIA共同推出迄今為止訓練的最大的語言模型

事件追蹤:
21-10-12 微軟和NVIDIA共同推出迄今為止訓練的最大的語言模型
21-07-01 AT&T將核心5G網絡遷移至微軟雲平台
20-10-27 微軟擬在台灣設立Azure 雲端硬件與基礎建設團隊
20-09-22 微軟 Ignite 2020 大會:強化業務韌性,塑造未來
20-09-14 微軟將推出衛星解決方案:可連接到 Azure 雲服務

(0)
上一篇 2021-10-12 11:48
下一篇 2021-10-12 12:40

相关推荐