(資料圖片)
每經(jīng)AI快訊,2月4日,騰訊混元AI Infra團(tuán)隊(duì)正式推出開源生產(chǎn)級高性能LLM推理核心算子庫 HPC-Ops。在真實(shí)場景下,基于HPC-Ops,混元模型推理 QPM 提升30%,DeepSeek模型 QPM 提升17%。同時,在單算子性能方面,HPC-Ops實(shí)現(xiàn)Attention相比 FlashInfer/FlashAttention 最高提升2.22倍;GroupGEMM 相比 DeepGEMM 最高提升1.88倍;FusedMoE 相比 TensorRT-LLM 最高提升1.49倍。
標(biāo)簽: 開源 騰訊 提升 HPC 推理 AI 核心 Infr
精彩推薦
- 未來三天福建中南部仍有降水,氣溫略有下降 2023-09-09 13:44:44
- 西安工業(yè)大學(xué)文學(xué)院開展“手制絨花報(bào)師恩”教... 2023-09-09 10:15:54
- 未來經(jīng)濟(jì)增長真正核心是創(chuàng)新與研發(fā)——訪諾貝... 2023-09-09 08:35:01
- 天貓熱度飆升389% 未售先火iPhone15忙壞蘋果客服 2023-09-09 06:10:33
- 騰訊混元AI Infra核心技術(shù)開源:推理吞吐提升30% 2026-02-04 18:59:53
- 芯導(dǎo)科技4億元并購:賬面廣義貨幣資金超20億元... 2026-02-04 18:30:41
- 深成指2月4日漲0.21%-熱聞 2026-02-04 16:10:20
- 【新華500】新華500指數(shù)(989001)4日漲0.76%|快資訊 2026-02-04 16:09:39
- 段永平:“投資”特斯拉基本看的是“市夢率”... 2026-02-04 15:55:01
- 金飾價格漲到1600元/克,一夜?jié)q102元 資訊 2026-02-04 09:56:52
- 每日看點(diǎn)!北京新增6家全國等級旅游民宿,累計(jì)... 2026-02-04 09:21:30
- 看點(diǎn):新春走基層|民俗納福嬉冰雪 漁獵歡歌游渾江 2026-02-04 08:15:54
- 每日訊息!精鍛科技:子公司寧波太平洋電控系統(tǒng)... 2026-02-03 22:28:00
- 醫(yī)渡科技連續(xù)七個交易日回購 累計(jì)斥資超2270萬港元 2026-02-03 21:04:44
- 每日消息!北新路橋集團(tuán)云南長龍高速公路項(xiàng)目總... 2026-02-03 20:17:58
- 視點(diǎn)!盤點(diǎn)努比亞手機(jī)相關(guān)龍頭上市公司,有三... 2026-02-03 16:14:26
- 每日視點(diǎn)!生意社:2月3日上海華誼新材料華東丙... 2026-02-03 15:14:13
- 信息:生意社:2月3日山東利華益集團(tuán)油品報(bào)價下滑 2026-02-03 15:13:19
- 焦點(diǎn)報(bào)道:河南隊(duì)外援邁達(dá)納自宣留隊(duì):我會繼續(xù)... 2026-02-03 11:34:43
- PriceSeek提醒:銅庫存區(qū)域增減分析 2026-02-03 10:13:38
- 京冀首條跨省域地鐵計(jì)劃2026年開通 2026-02-03 09:11:46
- 觀察:香飄飄蔣曉瑩:以一杯奶茶的“長期主義... 2026-02-03 06:54:36
- 山子高科完成歐洲子公司債務(wù)重組 負(fù)債預(yù)計(jì)減... 2026-02-03 06:24:19
- 鈞崴電子:股東擬減持不超過3%股份 觀察 2026-02-03 06:22:15
- 七鮮小廚成為北京首家正式備案的線上專供養(yǎng)老... 2026-02-02 21:04:11
- 每日熱門:西媒:佩德里康復(fù)進(jìn)展順利,已經(jīng)恢... 2026-02-02 19:25:31
- 每日快看:PriceSeek重點(diǎn)提醒:上海金價暴跌12.88% 2026-02-02 19:08:15
- 毛利率下滑,孫公司破產(chǎn),遠(yuǎn)程股份預(yù)計(jì)2025年... 2026-02-02 16:56:32
- 今日看點(diǎn):新華視點(diǎn)|科創(chuàng)賦能全領(lǐng)域 高質(zhì)量發(fā)... 2026-02-02 16:30:32
- 快消息!PriceSeek提醒:河南漢永乙醇價格下跌 2026-02-02 15:11:20
- 攜寵出行需求增長 春秋航空春運(yùn)“寵物友好”... 2026-02-02 14:05:18
- 喜相逢集團(tuán)大跌超70% 今日熱訊 2026-02-02 13:57:53
- 萬邦德在研阿爾茨海默癥治療創(chuàng)新藥完成100例受... 2026-02-02 13:25:49
- 浙江穩(wěn)步推進(jìn)集體林權(quán)制度改革 2026-02-02 10:21:53





