网络百科 心情随笔 AIoT爆发在即,聆思科技“芯片+算法”深度耦合路线有何价值?

AIoT爆发在即,聆思科技“芯片+算法”深度耦合路线有何价值?

在日趋成熟的AI技术助力下,物联网(IoT)领域已开始显现爆发势能。

具体而言,IoT的经典架构包含了感知层、传输层、应用层等,涉及到对物理世界大量信息的收集和处理,过去受制于算法算力问题,难以对收集到的数据进行高效处理,现在借助于AI算法,才终于实现了从数据感知到数据认知的飞跃。

在AI加持之下,IoT也升级跃迁为AIoT,相关市场规模逐步打开。IDC数据显示,2021年全球AIoT市场规模超5万亿元,同比增长11%,预计2026年将超过10万亿元,2021-2026年复合增长率达13%。

不过,现阶段AIoT行业碎片化痛点仍然突出,渗透率还有待提升,根据Euromoniter、CIC、BCG等研究机构数据,当前全球物联网行业整体渗透率平均仅为4%-5%。

这一背景下,“芯片+算法”深度耦合路线引起市场关注,一些初创企业也借此崛起。比如聆思科技,天眼查显示,该公司成立于2020年,坚持基于人工智能算法与自主芯片设计强耦合,来输出垂类场景解决方案,截至目前已完成四轮融资。

而结合AIoT行业现状来看,聆思科技走到台前究竟反映了怎样的市场需求?大模型时代,这类企业又将如何发挥其价值?

AIoT产业链视角下,软硬强耦合模式有何价值?

就行业特质而言,AIoT注重万物智联,这决定了其要面对的市场需求纷繁复杂、应用场景碎片化特征显著,而这种碎片化反映在产品品类、技术平台多样化,连接协议、安全协议不统一,芯片与操作系统高度分散化等方面,相应要求产业链上下游加强协同。

不过,由于产业链较长,面对特定场景需求,当前AIoT行业中的芯片厂商、算法提供商、方案提供商等主体一定程度上存在不协同。

具体而言,芯片是AIoT产业的核心,可保证终端产品的高性能、高能效比,尤其是SoC(系统级)芯片集成了CPU、GPU、NPU、存储器、基带、ISP、DSP、WIFI、蓝牙等模块,是实现设备智能化的关键;算法有应用领域广、种类多样化、演进速度快等特点,对芯片架构设计提出较高要求。

而两者的不协同就主要体现在市面上流行的更多是通用型芯片,但由于物联网应用场景、设备、功能的多样性,通用型芯片很难满足算法公司的个性化需求,这种情况下,鉴于采购的芯片已然固化,一些算法公司会对算法模型进行裁剪来适应硬件条件。

这一方案下,算法公司或将产生较大的时间和资金投入,而且难免造成算力浪费、模型裁剪过多、芯片成本偏高等问题,进而也影响了AIoT设备智能化发展。

当然,目前也有不少算法公司开始自研芯片,不过考虑到算法和芯片研发的规律截然不同,相关企业若此前并未经验积累,而是从零出发招兵买马,一定程度上也面临风险。

这一背景下,为了响应市场需求,软硬强耦合方案应运而生。所谓软硬强耦合,即独立芯片设计公司基于算法与场景需求,打造具备定制化属性的人工智能端侧芯片,为行业提供更优、更快、更具性价比的解决方案。

对此,聆思科技曾做过相关解释:“从AI芯片到loT芯片到解决方案再到研测产制平台,一揽子打包交付给客户,才能把一个设备从不智能升级为智能。”

据聆思科技相关负责人介绍,在同等面积下,公司研发的定制化芯片,算力大约比传统通用芯片高5-10倍,可支持多个AI算法的并发运行。同时,聆思科技提供与芯片配套的全流程工具链,覆盖产品研发设计到落地的全周期。

值得一提的是,考虑到技术门槛,同时推进AIoT的两大主线——芯片和算法,并非易事。而聆思科技能够实现软硬强耦合,与其对行业的深度洞察及研发积淀密切相关。

据悉,由于认识到企业客户落地AIoT之艰难——需要与AI公司、芯片公司、方案提供商多方交涉,其中不仅沟通成本极高,而且种种不兼容、不匹配难以避免,聆思科技创业之初即搭建了完整的芯片团队和算法团队,这在业内较为少见。

而依托人才优势,其也逐步构建起面向AIoT全领域的芯片矩阵;在算法方面,已经具备数百种端云结合的丰富算法(从语音、视觉、OCR、降噪,到离线自由说、分布式唤醒、Smart TTS、方言、声纹等)。

凭借解决方案的易用性及性价比优势,聆思科技的业绩规模也持续扩大。数据显示,截至2023年,聆思科技的年销售额已经破亿。

这也更进一步印证了AIoT产业中芯片与算法强耦合路径的必要性和正确性。而在云端大模型已获得革命性突破的当下,AIoT行业有望迎来一轮新的面貌革新,聆思科技等企业仍是重要的推进力量。

大模型驱动,AIoT万物智联的时代真正到来?

据了解,AIoT时代,90%信息输入依靠语言,80%信息输出依靠视觉。如今,在语言、视觉、交互等方面实现重大突破的大模型赋能AIoT的想象空间,既宽广又诱人。

具体而言,以ChatGPT为代表的AI大模型展现出了非常优秀的自然语言交互能力,聆思科技此前就做过相关总结:ChatGPT的智能涌现表现在海量信息参数化全量记忆、任意任务的对话式理解、复杂逻辑思维链推理、多角色多风格长文本生成、即时交互修正能力支持进化、程序代码自动生成、输入图像的语义层理解这七个方面。

而近段时间OpenAI发布的首个文生视频模型Sora,在语言理解能力等方面再上台阶,并不断往物理世界模拟进化,可以说这场AI技术主导的科技盛宴“全程高能”。

再试想如果能够将大模型的能力融入AIoT产品打造中,无疑将带来终端使用体验质的提升,比如在智能家居场景中,设备不再仅针对固定的有限口令进行反应,而是具备与人类对话互动等高度智能化能力,这种情况下,专业智慧管家等角色或能真正具象化。

而物联网领域海量的数据,也可以为大模型的应用提供充足的“养料”。根据机构预测,到2025年,全球每分钟将有超过15万台物联网设备连接入网,预计物联网设备生成的数据量将达到73.1ZB,占到全球数据总量的44%。

基于此,目前也已经有厂商正在推进相关愿景实现。比如,智能安防领域,宇视科技推出具备CV(计算机视觉)、NLP(自然语言处理)、MM(多模态)等多项能力的“梧桐”大模型。

聚焦智能家居场景,聆思科技也已经开发新一代多模态人机交互方案,基于大模型,结合虚拟人、Smart TTS技术,打造生成式虚拟AI管家,以实现智慧家庭人机交互。

不过,相关企业在推进大模型应用的过程中也面临不小的挑战。一方面,大模型的应用门槛较高,动辄百亿甚至千亿参数规模,需要AIoT芯片具备更强大的算力支持。

另一方面,考虑到物联网数据具备多模态、异构性等特征,要想使大模型落地AIoT场景并充分发挥作用(如对现实中瞬息万变的状况第一时间完成信息采集并做出反应),还需将其与系统深度耦合,以实现对物联网感知数据的使用以及对相关设备的控制、调度。

正如特斯联CTO华先胜曾指出的,大模型本身是AIoT的扩充,类似具有强大理解能力的“大脑”,若通过系统连接AIoT设备来给它配上“眼睛”“鼻子”“耳朵”“手”“脚”,其将具备多元的感知、分析、决策和控制能力,从而实现更强的智能。

因此,可以看到,去年10月,聆思科技推出了“芯云战略计划”,该计划融合了芯片层、算法层以及云端平台层,其中,芯片层解决算力问题,算法层解决AI效果问题,云端平台层解决大模型的接入问题。

考虑到当前AI技术大幅提升等因素,有专家预测,2024年将是AloT产业发展的分水岭。这一形势下,随着聆思科技等厂商不断促进产业上下游协同、加强系统化运作,万物智联时代有望真正到来。