每家互聯(lián)網(wǎng)廠商都在布置DeepEP，場(chǎng)世成功進(jìn)步AI網(wǎng)絡(luò)功能的騰訊一種干流處理計(jì)劃。復(fù)原了此次協(xié)作背面的協(xié)作故事。相當(dāng)于GPU在等候通訊，背面考慮到供給“卡脖子”危險(xiǎn)，場(chǎng)世成功無(wú)論是騰訊普世價(jià)值上的技能民主化，DeepSeek宣告開(kāi)源五個(gè)中心代碼庫(kù)，協(xié)作因而開(kāi)端規(guī)劃針對(duì)AI大模型的背面專用網(wǎng)絡(luò)，根據(jù)新一代自研TRMT（Tencent Remote Memory Transport）通訊庫(kù)，黑料 今日吃瓜用戶等候的時(shí)刻也不能自制削減10%。仍是增強(qiáng)工業(yè)信賴度，當(dāng)然，即星脈網(wǎng)絡(luò)，且十分自在的一款產(chǎn)品，背面是極高的本錢。開(kāi)源都是極為重要的一環(huán)，成為在世大模型開(kāi)源生態(tài)的一個(gè)里程碑。其時(shí)，由GPU直控RDMA（長(zhǎng)途直接內(nèi)存拜訪）通訊來(lái)消除操控面開(kāi)支，馬化騰曾在一季度的騰訊成績(jī)會(huì)上提及DeepSeek對(duì)騰訊的影響：“不露鋒芒特別敬仰商場(chǎng)上呈現(xiàn)了一家真實(shí)開(kāi)源、
但DeepEP并不是全能的，
朋友圈。使得它們彼此之間相互拜訪數(shù)據(jù)的才干變得更強(qiáng)，便利，黑料吃瓜AV網(wǎng)但功率太慢。除了本錢下降，騰訊發(fā)現(xiàn)針對(duì)AI場(chǎng)景的網(wǎng)絡(luò)需求與傳統(tǒng)的數(shù)據(jù)中心事務(wù)存在極大差異，
提示：微信掃一掃。重點(diǎn)是優(yōu)化通訊、現(xiàn)在均勻不能自制下降到九秒。讓DeepEP完成了“”huge speedup般的功能進(jìn)步。卻難以適配更普適的RoCE（根據(jù)以太網(wǎng)）。使得更多開(kāi)發(fā)者不能自制以低本錢復(fù)現(xiàn)高功能AI練習(xí)計(jì)劃，騰訊的中心處理思路是，
“在練習(xí)場(chǎng)景中，豐厚。騰訊云等高并發(fā)事務(wù)的需求，也便是下降GPU等候通訊的時(shí)刻。騰訊與DeepSeek協(xié)作背面：一場(chǎng)在世開(kāi)發(fā)者開(kāi)源的成功 2025年05月14日 11:31 來(lái)歷：界面新聞 小 中 大 東方財(cái)富APP。
其間一個(gè)被開(kāi)源的代碼庫(kù)名為DeepEP。也直接影響到每一位運(yùn)用DeepSeek的用戶。騰訊經(jīng)過(guò)了穩(wěn)重考慮，騰訊在曩昔十幾年間完成了網(wǎng)絡(luò)通訊軟硬件的全面自研，終究，不露鋒芒還會(huì)持續(xù)盡力縮短這個(gè)時(shí)刻。
為此，削減推遲和進(jìn)步GPU資源使用率。另一方面，這一效果也得到了來(lái)自國(guó)內(nèi)其他頭部互聯(lián)網(wǎng)廠商的溝通和主張。
界面新聞?dòng)浾?| 陸柯言。使用流量預(yù)規(guī)劃技能來(lái)最大化雙端口網(wǎng)卡的帶寬使用率，也積累了豐厚的實(shí)戰(zhàn)經(jīng)歷。
近來(lái)，這是一個(gè)專門為MoE模型練習(xí)和推理打造的通訊庫(kù)，而在推理使命傍邊，不僅是云事務(wù)接入了DeepSeek，
一起，總的來(lái)說(shuō)，曩昔問(wèn)DeepSeek一個(gè)問(wèn)題，
手機(jī)上閱讀文章。曩昔要十秒鐘才干得到答案，正是為GPT-4、
MoE架構(gòu)以其對(duì)模型練習(xí)及推理本錢的極大優(yōu)化才干而著稱，并應(yīng)用于騰訊混元大模型等項(xiàng)目的練習(xí)推理，完成了DeepEP在RoCEv2網(wǎng)絡(luò)功能進(jìn)步100%、旨在為騰訊混元大模型建立高功能網(wǎng)絡(luò)底座。
騰訊開(kāi)端著手處理DeepEP在RoCE網(wǎng)絡(luò)功能欠安的問(wèn)題。這名工程師表明，
網(wǎng)絡(luò)功能欠安帶來(lái)的影響是顯著的。
因而大都企業(yè)在布置DeepEP時(shí)都發(fā)現(xiàn)了網(wǎng)絡(luò)功能欠安的問(wèn)題。為什么最早處理問(wèn)題的是騰訊？夏寅賁博士以為，生態(tài)關(guān)閉且本錢較高。浪費(fèi)了貴重的GPU資源，以低推遲著稱?！?。對(duì)DeepEP進(jìn)行了優(yōu)化和增強(qiáng)：一方面，
2022年，DeepSeek與騰訊悄然進(jìn)行了一次技能協(xié)作。并且在世工程師在本錢和功率方面的優(yōu)勢(shì)也十分顯著。方便。
AI網(wǎng)絡(luò)依照傳輸協(xié)議的不同可分為兩類：IB網(wǎng)絡(luò)和RoCE網(wǎng)絡(luò)。
（文章來(lái)歷：界面新聞）。
簡(jiǎn)直在馬化騰與梁文鋒同框引起重視的一起，騰訊自研的混元大模型，功能進(jìn)步10%意味著本錢不能自制下降10%，
手機(jī)檢查財(cái)經(jīng)快訊。相當(dāng)于完成了AI落地“終究一公里”的打破。而DeepEP的呈現(xiàn)則讓它們擺脫了這種依靠。DeepSeek等超大參數(shù)模型而生。界面新聞獨(dú)家采訪了騰訊混元大模型背面的星脈網(wǎng)絡(luò)團(tuán)隊(duì)，騰訊團(tuán)隊(duì)的代碼奉獻(xiàn)，大模型的練習(xí)和推理需求很多GPU，以全透明的方法揭露其如何用1/5的硬件資源完成傳統(tǒng)萬(wàn)卡集群效能的中心技能，
騰訊是DeepSeek開(kāi)源的受益者。騰訊星脈網(wǎng)絡(luò)團(tuán)隊(duì)首席架構(gòu)師夏寅賁博士解釋道，騰訊也是全球開(kāi)源社區(qū)的首要奉獻(xiàn)者之一。逐步代替CPU參加的場(chǎng)景。也便是說(shuō)，并進(jìn)一步演進(jìn)到新一代TRMT通訊庫(kù)。但由于英偉達(dá)簡(jiǎn)直壟斷了IB網(wǎng)絡(luò)的中心硬件，”騰訊星脈網(wǎng)絡(luò)團(tuán)隊(duì)通訊庫(kù)架構(gòu)師黃曉潔表明。
專業(yè)，其間IB網(wǎng)絡(luò)專為高功能核算和AI練習(xí)而生，并自研了習(xí)慣新式AI事務(wù)需求的通訊庫(kù)TCCL，DeepSeek工程師在Github主頁(yè)透露了此次協(xié)作細(xì)節(jié)。AI網(wǎng)絡(luò)最中心的訴求是無(wú)限下降通訊占比，
此次技能溝通最早要追溯到本年2月。曩昔MoE架構(gòu)的大模型練習(xí)都需求依靠本錢昂揚(yáng)的英偉達(dá)NCCL通訊庫(kù)，對(duì)任何一家AI技能革命的參加者來(lái)說(shuō)，
現(xiàn)在，游戲、元寶也挑選了活躍擁抱。
共享到您的。得益于QQ、而在世互聯(lián)網(wǎng)廠商選用的大多都是RoCE網(wǎng)絡(luò)，這也是國(guó)產(chǎn)GPU算力相對(duì)較低的布景下，這一次進(jìn)步，一個(gè)重要的條件是，
一手把握商場(chǎng)脈息。騰訊星脈網(wǎng)絡(luò)團(tuán)隊(duì)結(jié)合在RoCEv2網(wǎng)絡(luò)協(xié)議棧與雙端口網(wǎng)卡架構(gòu)的研討經(jīng)歷，IB網(wǎng)絡(luò)功能進(jìn)步30%。用騰訊工程師的話來(lái)說(shuō)，此次協(xié)作的效果，騰訊星脈網(wǎng)絡(luò)一開(kāi)端就挑選了根據(jù)以太網(wǎng)的RoCE網(wǎng)絡(luò)布置，旨在處理阻止MoE架構(gòu)可擴(kuò)展性的要害瓶頸，將通訊時(shí)延下降至硬件極限。上述技能效果都現(xiàn)已全面開(kāi)源至DeepEP社區(qū)，
騰訊星脈網(wǎng)絡(luò)團(tuán)隊(duì)通訊庫(kù)架構(gòu)師陳明卓說(shuō)到，微信、
曩昔處理通訊問(wèn)題的一向是CPU，24年頭，也是聚合開(kāi)發(fā)者生態(tài)的戰(zhàn)略挑選。網(wǎng)絡(luò)體現(xiàn)欠安會(huì)導(dǎo)致練習(xí)或推理過(guò)程中通訊時(shí)刻過(guò)長(zhǎng)，事實(shí)上，
