2024年，世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議將在7月在上海舉辦，會(huì)議主題為“以共商促共享 以善治促善智”。商湯科技將在WAIC 2024展出最新成果。
展覽時(shí)間：7月4日-7日
展覽地點(diǎn)：上海世博展覽館
展位號(hào)：H2-B110 & H2-B116
01 商湯大模型迎來(lái)全新升級(jí)!
商湯科技全新升級(jí)的「日日新SenseNova 5.0」大模型，具備更強(qiáng)的知識(shí)、數(shù)學(xué)、推理及代碼能力，綜合性能全面升級(jí)。
「日日新 5.0」能力提升主要得益三個(gè)方面：
1. 采用混合專家架構(gòu)(MoE)，激活少量參數(shù)就能完成推理，且推理時(shí)上下文窗口達(dá)到 200K 左右。
2. 基于超過(guò)10TB tokens訓(xùn)練、覆蓋數(shù)千億量級(jí)的邏輯型合成思維鏈數(shù)據(jù)。
3. 商湯AI大裝置SenseCore算力設(shè)施與算法設(shè)計(jì)的聯(lián)合調(diào)優(yōu)。
日前，中文大模型測(cè)評(píng)基準(zhǔn)SuperCLUE發(fā)布最新榜單，對(duì)商湯科技全新升級(jí)「日日新SenseNova 5.0」大模型進(jìn)行了全方位綜合性測(cè)評(píng)，結(jié)果顯示在SuperCLUE綜合基準(zhǔn)上，日日新 5.0表現(xiàn)不俗，以總分80.03分的優(yōu)異成績(jī)刷新國(guó)內(nèi)最好成績(jī)，這也是國(guó)內(nèi)大模型首次在SuperCLUE中文基準(zhǔn)測(cè)試中實(shí)現(xiàn)登頂。
02 率先完成“云端邊”全棧布局
此外，商湯科技前瞻洞察中心化算力需求向端側(cè)擴(kuò)展的未來(lái)趨勢(shì)，以及企業(yè)級(jí)在邊緣側(cè)的AI需求，在業(yè)內(nèi)首次推出“云、端、邊”全棧大模型產(chǎn)品矩陣，其中包括應(yīng)用于終端設(shè)備的“商湯端側(cè)大模型”，以及面向金融、代碼、醫(yī)療、政務(wù)等多個(gè)領(lǐng)域的邊緣產(chǎn)品“商湯企業(yè)級(jí)大模型一體機(jī)”。
03 端側(cè)：模型位列行業(yè)首位 滿足移動(dòng)終端用戶需求
今年是端側(cè)大模型應(yīng)用的元年，為了滿足移動(dòng)終端用戶對(duì)大模型技術(shù)的應(yīng)用需求，商湯推出日日新·端側(cè)大模型，性能實(shí)現(xiàn)同等尺度性能最優(yōu)，跨級(jí)尺度全面領(lǐng)先。
商湯還推出端云協(xié)同解決方案，可以通過(guò)智能化判斷協(xié)同發(fā)揮端云各自優(yōu)勢(shì)，需要聯(lián)網(wǎng)搜索或處理復(fù)雜場(chǎng)景時(shí)分流至云端處理，部分場(chǎng)景端側(cè)處理占比超過(guò)80%，從而顯著降低推理成本。
商湯日日新·端側(cè)大語(yǔ)言模型的推理速度達(dá)到了業(yè)內(nèi)最快，可在中端平臺(tái)實(shí)現(xiàn)18.3字/s的平均生成速度，旗艦平臺(tái)更是達(dá)到了78.3字/s。
擴(kuò)散模型同樣可在端側(cè)實(shí)現(xiàn)業(yè)內(nèi)最快的推理速度，端側(cè)LDM-AI擴(kuò)圖技術(shù)在某主流平臺(tái)上，推理速度小于1.5秒，比友商云端app快10倍，支持輸出1200萬(wàn)像素及以上的高清圖片，支持在端上快速進(jìn)行等比擴(kuò)圖、自由擴(kuò)圖、旋轉(zhuǎn)擴(kuò)圖等圖像編輯功能。
04 邊側(cè)：推出企業(yè)級(jí)大模型一體機(jī) 降低企業(yè)應(yīng)用大模型的門檻
對(duì)于金融、代碼、醫(yī)療、政務(wù)等重點(diǎn)行業(yè)邊緣側(cè)日益增長(zhǎng)的AI應(yīng)用需求，商湯正式推出企業(yè)級(jí)大模型一體機(jī)，可同時(shí)支持企業(yè)級(jí)千億模型加速和知識(shí)檢索硬件加速，實(shí)現(xiàn)本地化部署，即買即用，降低企業(yè)應(yīng)用大模型的門檻。相比行業(yè)同類產(chǎn)品，推理成本節(jié)約80%，檢索大大加速，CPU工作負(fù)載50%。
05 安全可信的大模型建設(shè)
大模型時(shí)代，推進(jìn)符合倫理標(biāo)準(zhǔn)的人工智能技術(shù)至關(guān)重要。商湯率先推出“人工智能治理基礎(chǔ)設(shè)施SenseTrust”，以促進(jìn)大模型開發(fā)、訓(xùn)練及其應(yīng)用的可靠性和可信度;此外，商湯還攜手中國(guó)信息通信研究院聯(lián)合發(fā)布了《大模型可信賴研究報(bào)告》，為人工智能大模型的可信發(fā)展提供了重要的方向參考，也對(duì)大模型風(fēng)險(xiǎn)管理體系化建設(shè)提供了框架依據(jù)。
（來(lái)源：世界人工智能大會(huì)）
