【jinnianhui科技消息】5月7日,聯(lián)想創(chuàng)新科技大會(huì)正式召開,大會(huì)以“讓AI成為創(chuàng)新生產(chǎn)力”為主題,圍繞混合式人工智能,從個(gè)人到企業(yè),全方位呈現(xiàn)了聯(lián)想的創(chuàng)新技術(shù)成果。

會(huì)上,聯(lián)想首次提出“超級(jí)智能體”概念,并明確其三大核心功能,即感知與交互、認(rèn)知與決策、自主與演進(jìn)。同時(shí),聯(lián)想正式發(fā)布“聯(lián)想天禧”個(gè)人超級(jí)智能體和“聯(lián)想樂享”企業(yè)超級(jí)智能體。
值得關(guān)注的是,聯(lián)想展示了在端側(cè)算力領(lǐng)域的最新突破——“聯(lián)想推理加速引擎”。該引擎由聯(lián)想、清華大學(xué)及無問芯穹聯(lián)合研發(fā),是專為高效AI PC推理打造的軟硬件協(xié)同優(yōu)化平臺(tái)。通過它,普通PC的本地推理能力可媲美OpenAI去年發(fā)布的o1-mini云端模型。
“聯(lián)想推理加速引擎”運(yùn)用高性能并行解碼、算子融合優(yōu)化及異構(gòu)計(jì)算技術(shù),在多種應(yīng)用場景下大幅提升推理速度,同時(shí)顯著降低功耗和內(nèi)存占用。與大模型推理芯片結(jié)合后,硬件加速與軟件優(yōu)化無縫協(xié)作,性能提升形成疊加效應(yīng)。

為直觀展現(xiàn)該引擎實(shí)力,聯(lián)想創(chuàng)新科技大會(huì)現(xiàn)場進(jìn)行了“競速賽”。三臺(tái)配置相同的AI PC同時(shí)解答2024年高考數(shù)學(xué)壓軸題,初代大模型耗時(shí)27秒且答案0分,二代大模型耗時(shí)26秒獲滿分,而搭載“聯(lián)想推理加速引擎”的二代大模型僅耗時(shí)13秒便獲滿分。這表明,模型能力提升與“聯(lián)想推理加速引擎”的算力優(yōu)化,使設(shè)備預(yù)填充更快、解碼速度更高、推理時(shí)間更短,內(nèi)存占用和能耗更低,AI能力大幅提升。
版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載
-金年會(huì)體育
官方微信公眾號(hào)平臺(tái)