AIoT爆發(fā)在即，聆思科技“芯片+算法”深度耦合路線有何價值？

2024-03-01 15:17 來源：A5專欄我來投稿撤稿糾錯

在日趨成熟的AI技術(shù)助力下，物聯(lián)網(wǎng)（IoT）領(lǐng)域已開始顯現(xiàn)爆發(fā)勢能。

具體而言，IoT的經(jīng)典架構(gòu)包含了感知層、傳輸層、應(yīng)用層等，涉及到對物理世界大量信息的收集和處理，過去受制于算法算力問題，難以對收集到的數(shù)據(jù)進行高效處理，現(xiàn)在借助于AI算法，才終于實現(xiàn)了從數(shù)據(jù)感知到數(shù)據(jù)認知的飛躍。

在AI加持之下，IoT也升級躍遷為AIoT，相關(guān)市場規(guī)模逐步打開。IDC數(shù)據(jù)顯示，2021年全球AIoT市場規(guī)模超5萬億元，同比增長11%，預(yù)計2026年將超過10萬億元，2021-2026年復(fù)合增長率達13%。

不過，現(xiàn)階段AIoT行業(yè)碎片化痛點仍然突出，滲透率還有待提升，根據(jù)Euromoniter、CIC、BCG等研究機構(gòu)數(shù)據(jù)，當(dāng)前全球物聯(lián)網(wǎng)行業(yè)整體滲透率平均僅為4%-5%。

這一背景下，“芯片+算法”深度耦合路線引起市場關(guān)注，一些初創(chuàng)企業(yè)也借此崛起。比如聆思科技，天眼查顯示，該公司成立于2020年，堅持基于人工智能算法與自主芯片設(shè)計強耦合，來輸出垂類場景解決方案，截至目前已完成四輪融資。

而結(jié)合AIoT行業(yè)現(xiàn)狀來看，聆思科技走到臺前究竟反映了怎樣的市場需求？大模型時代，這類企業(yè)又將如何發(fā)揮其價值？

AIoT產(chǎn)業(yè)鏈視角下，軟硬強耦合模式有何價值？

就行業(yè)特質(zhì)而言，AIoT注重萬物智聯(lián)，這決定了其要面對的市場需求紛繁復(fù)雜、應(yīng)用場景碎片化特征顯著，而這種碎片化反映在產(chǎn)品品類、技術(shù)平臺多樣化，連接協(xié)議、安全協(xié)議不統(tǒng)一，芯片與操作系統(tǒng)高度分散化等方面，相應(yīng)要求產(chǎn)業(yè)鏈上下游加強協(xié)同。

不過，由于產(chǎn)業(yè)鏈較長，面對特定場景需求，當(dāng)前AIoT行業(yè)中的芯片廠商、算法提供商、方案提供商等主體一定程度上存在不協(xié)同。

具體而言，芯片是AIoT產(chǎn)業(yè)的核心，可保證終端產(chǎn)品的高性能、高能效比，尤其是SoC（系統(tǒng)級）芯片集成了CPU、GPU、NPU、存儲器、基帶、ISP、DSP、WIFI、藍牙等模塊，是實現(xiàn)設(shè)備智能化的關(guān)鍵；算法有應(yīng)用領(lǐng)域廣、種類多樣化、演進速度快等特點，對芯片架構(gòu)設(shè)計提出較高要求。

而兩者的不協(xié)同就主要體現(xiàn)在市面上流行的更多是通用型芯片，但由于物聯(lián)網(wǎng)應(yīng)用場景、設(shè)備、功能的多樣性，通用型芯片很難滿足算法公司的個性化需求，這種情況下，鑒于采購的芯片已然固化，一些算法公司會對算法模型進行裁剪來適應(yīng)硬件條件。

這一方案下，算法公司或?qū)a(chǎn)生較大的時間和資金投入，而且難免造成算力浪費、模型裁剪過多、芯片成本偏高等問題，進而也影響了AIoT設(shè)備智能化發(fā)展。

當(dāng)然，目前也有不少算法公司開始自研芯片，不過考慮到算法和芯片研發(fā)的規(guī)律截然不同，相關(guān)企業(yè)若此前并未經(jīng)驗積累，而是從零出發(fā)招兵買馬，一定程度上也面臨風(fēng)險。

這一背景下，為了響應(yīng)市場需求，軟硬強耦合方案應(yīng)運而生。所謂軟硬強耦合，即獨立芯片設(shè)計公司基于算法與場景需求，打造具備定制化屬性的人工智能端側(cè)芯片，為行業(yè)提供更優(yōu)、更快、更具性價比的解決方案。

對此，聆思科技曾做過相關(guān)解釋：“從AI芯片到loT芯片到解決方案再到研測產(chǎn)制平臺，一攬子打包交付給客戶，才能把一個設(shè)備從不智能升級為智能。”

據(jù)聆思科技相關(guān)負責(zé)人介紹，在同等面積下，公司研發(fā)的定制化芯片，算力大約比傳統(tǒng)通用芯片高5-10倍，可支持多個AI算法的并發(fā)運行。同時，聆思科技提供與芯片配套的全流程工具鏈，覆蓋產(chǎn)品研發(fā)設(shè)計到落地的全周期。

值得一提的是，考慮到技術(shù)門檻，同時推進AIoT的兩大主線——芯片和算法，并非易事。而聆思科技能夠?qū)崿F(xiàn)軟硬強耦合，與其對行業(yè)的深度洞察及研發(fā)積淀密切相關(guān)。

據(jù)悉，由于認識到企業(yè)客戶落地AIoT之艱難——需要與AI公司、芯片公司、方案提供商多方交涉，其中不僅溝通成本極高，而且種種不兼容、不匹配難以避免，聆思科技創(chuàng)業(yè)之初即搭建了完整的芯片團隊和算法團隊，這在業(yè)內(nèi)較為少見。

而依托人才優(yōu)勢，其也逐步構(gòu)建起面向AIoT全領(lǐng)域的芯片矩陣；在算法方面，已經(jīng)具備數(shù)百種端云結(jié)合的豐富算法（從語音、視覺、OCR、降噪，到離線自由說、分布式喚醒、Smart TTS、方言、聲紋等）。

憑借解決方案的易用性及性價比優(yōu)勢，聆思科技的業(yè)績規(guī)模也持續(xù)擴大。數(shù)據(jù)顯示，截至2023年，聆思科技的年銷售額已經(jīng)破億。

這也更進一步印證了AIoT產(chǎn)業(yè)中芯片與算法強耦合路徑的必要性和正確性。而在云端大模型已獲得革命性突破的當(dāng)下，AIoT行業(yè)有望迎來一輪新的面貌革新，聆思科技等企業(yè)仍是重要的推進力量。

大模型驅(qū)動，AIoT萬物智聯(lián)的時代真正到來？

據(jù)了解，AIoT時代，90%信息輸入依靠語言，80%信息輸出依靠視覺。如今，在語言、視覺、交互等方面實現(xiàn)重大突破的大模型賦能AIoT的想象空間，既寬廣又誘人。

具體而言，以ChatGPT為代表的AI大模型展現(xiàn)出了非常優(yōu)秀的自然語言交互能力，聆思科技此前就做過相關(guān)總結(jié)：ChatGPT的智能涌現(xiàn)表現(xiàn)在海量信息參數(shù)化全量記憶、任意任務(wù)的對話式理解、復(fù)雜邏輯思維鏈推理、多角色多風(fēng)格長文本生成、即時交互修正能力支持進化、程序代碼自動生成、輸入圖像的語義層理解這七個方面。

而近段時間OpenAI發(fā)布的首個文生視頻模型Sora，在語言理解能力等方面再上臺階，并不斷往物理世界模擬進化，可以說這場AI技術(shù)主導(dǎo)的科技盛宴“全程高能”。

再試想如果能夠?qū)⒋竽Ｐ偷哪芰θ谌階IoT產(chǎn)品打造中，無疑將帶來終端使用體驗質(zhì)的提升，比如在智能家居場景中，設(shè)備不再僅針對固定的有限口令進行反應(yīng)，而是具備與人類對話互動等高度智能化能力，這種情況下，專業(yè)智慧管家等角色或能真正具象化。

而物聯(lián)網(wǎng)領(lǐng)域海量的數(shù)據(jù)，也可以為大模型的應(yīng)用提供充足的“養(yǎng)料”。根據(jù)機構(gòu)預(yù)測，到2025年，全球每分鐘將有超過15萬臺物聯(lián)網(wǎng)設(shè)備連接入網(wǎng)，預(yù)計物聯(lián)網(wǎng)設(shè)備生成的數(shù)據(jù)量將達到73.1ZB，占到全球數(shù)據(jù)總量的44%。

基于此，目前也已經(jīng)有廠商正在推進相關(guān)愿景實現(xiàn)。比如，智能安防領(lǐng)域，宇視科技推出具備CV（計算機視覺）、NLP（自然語言處理）、MM（多模態(tài)）等多項能力的“梧桐”大模型。

聚焦智能家居場景，聆思科技也已經(jīng)開發(fā)新一代多模態(tài)人機交互方案，基于大模型，結(jié)合虛擬人、Smart TTS技術(shù)，打造生成式虛擬AI管家，以實現(xiàn)智慧家庭人機交互。

不過，相關(guān)企業(yè)在推進大模型應(yīng)用的過程中也面臨不小的挑戰(zhàn)。一方面，大模型的應(yīng)用門檻較高，動輒百億甚至千億參數(shù)規(guī)模，需要AIoT芯片具備更強大的算力支持。

另一方面，考慮到物聯(lián)網(wǎng)數(shù)據(jù)具備多模態(tài)、異構(gòu)性等特征，要想使大模型落地AIoT場景并充分發(fā)揮作用（如對現(xiàn)實中瞬息萬變的狀況第一時間完成信息采集并做出反應(yīng)），還需將其與系統(tǒng)深度耦合，以實現(xiàn)對物聯(lián)網(wǎng)感知數(shù)據(jù)的使用以及對相關(guān)設(shè)備的控制、調(diào)度。

正如特斯聯(lián)CTO華先勝曾指出的，大模型本身是AIoT的擴充，類似具有強大理解能力的“大腦”，若通過系統(tǒng)連接AIoT設(shè)備來給它配上“眼睛”“鼻子”“耳朵”“手”“腳”，其將具備多元的感知、分析、決策和控制能力，從而實現(xiàn)更強的智能。

因此，可以看到，去年10月，聆思科技推出了“芯云戰(zhàn)略計劃”，該計劃融合了芯片層、算法層以及云端平臺層，其中，芯片層解決算力問題，算法層解決AI效果問題，云端平臺層解決大模型的接入問題。