6月28日,騰訊云正式對外發(fā)布TI平臺公有云版本,并推出全新AI加速功能TI-ACC,其訓(xùn)練加速性能較原生框架提升30%以上,模型推理加速比達(dá)2倍以上。該版本也是騰訊首個面向開發(fā)者開放的一站式機(jī)器學(xué)習(xí)平臺。
騰訊云AI副總經(jīng)理、AI開發(fā)平臺資深技術(shù)專家李世平表示:“AI應(yīng)用如今正在各個領(lǐng)域蓬勃發(fā)展,AI開發(fā)服務(wù)平臺也已成為各行業(yè)AI應(yīng)用的生產(chǎn)力工具。在此背景下,騰訊云全新推出TI平臺的公有云版本,幫助廣大開發(fā)者簡化在工程上的大量研發(fā)投入,將精力聚焦在業(yè)務(wù)本身,從而提高AI應(yīng)用的開發(fā)效率。”
據(jù)介紹,此次發(fā)布的TI平臺公有云版本性能強(qiáng)大、兼容性高、計費(fèi)靈活、使用門檻低以及管理高效,可以有效幫助企業(yè)和開發(fā)者提升數(shù)據(jù)接入、數(shù)據(jù)處理、模型訓(xùn)練、模型服務(wù)等環(huán)節(jié)的效率,助力AI開發(fā)降本增效。
其中,TI-ACC是本次TI平臺全新升級發(fā)布的重磅功能,也是其強(qiáng)大性能的核心保障。TI-ACC支持大規(guī)模的訓(xùn)練和推理加速,幫助企業(yè)和開發(fā)者解決了在AI加速方面的痛點(diǎn)和需求。
針對訓(xùn)練加速,TI-ACC能在模型精度不下降的前提下,提升模型的產(chǎn)出效率。依托優(yōu)圖實驗室在各類復(fù)雜模型訓(xùn)練加速的實踐經(jīng)驗,TI-ACC實現(xiàn)了對主流的訓(xùn)練框架和分布式訓(xùn)練工具的支持,同時加速效果優(yōu)異,較原生訓(xùn)練框架提升了30%以上的訓(xùn)練性能。
針對推理加速,TI-ACC能在不影響預(yù)測精度的前提下降低GPU資源占用率,其加速效果、使用便捷性較市面開源方案均有明顯的優(yōu)勢。在產(chǎn)品能力上,TI-ACC除了可以支持主流的各類模型格式,同時也包含了豐富的推理加速優(yōu)化手段,相比原始模型,其推理加速比通常達(dá)到兩倍以上。
以某商品識別行業(yè)ISV廠商客戶為例,該客戶采用了高精度的Detectron2商品識別模型,而隨著業(yè)務(wù)規(guī)模擴(kuò)大,其GPU卡資源投入成本不斷提高,降本訴求也愈加強(qiáng)烈。采用TI平臺后,客戶將TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境,推理性能相比客戶baseline 提升了100%左右,服務(wù)QPS提升了45%,云資源成本支出也得到了有效降低。
目前,騰訊云TI平臺已在泛互、泛政務(wù)、醫(yī)療、金融、工業(yè)、傳媒等行業(yè)落地應(yīng)用,幫助實現(xiàn)了智能工業(yè)質(zhì)檢、金融AI中臺、智慧化城市運(yùn)營管理、疾病輔助診斷等諸多細(xì)分領(lǐng)域AI應(yīng)用的開發(fā)。
作為“下一個十年”的核心科技手段之一,AI正在加速滲透到各行各業(yè),推動其發(fā)展與創(chuàng)新。面向未來,騰訊云也將持續(xù)精進(jìn)AI開發(fā)平臺的產(chǎn)品創(chuàng)新能力,為企業(yè)和開發(fā)者提供更加豐富的平臺化服務(wù),賦能千行百業(yè),引領(lǐng)時代之聲。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問題，煩請30天內(nèi)提供版權(quán)疑問、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 新聞 » 騰訊云發(fā)布TI平臺公有云版,新功能TI-ACC助AI推理性能提升100%+