亿智电子是一家国内领先的边缘侧/端侧通用算力AI SoC芯片厂商，成立仅7年时间，就与超过300家客户开展开发合作。其AI芯片已经实现了数十种智能终端品类的商业化落地，包括智慧安防、智能车载和智能硬件等领域。

亿智电子

目前市场上的智能产品多为联网设备，在智能化升级方面乏善可陈。然而，智能化发展已经成为终端产品打造差异化的唯一发展方向。亿智电子坚定看好智能终端设备的发展前景，致力于人工智能技术的商业化和产品化落地，为万亿设备智慧赋能。

在家庭看护摄像机领域，亿智电子携手合作伙伴推出双向可视AI云台机，支持多种算法，如宠物检测算法、婴儿看护系列算法、手势识别或关键字识别算法、老人看护类算法等，让家用摄像机成为守护居家安全的“智慧眼”。

在智能车载领域，亿智电子以自研AI SoC芯片赋能的网约车设备，可以自动识别人的脸部特征、手势和行为、语音等。例如，在行驶过程中，如果驾驶员出现疲劳反应或危险行为，智能网约车设备可以马上识别并发出预警，保证司乘人员的安全。

亿智电子提供从0.5T到4T的不同算力芯片，覆盖了主流端侧应用场景，可以帮助客户快速推出不同定位、不同算力的智能终端产品。公司也会根据市场需求及时地升级主流算力区间芯片产品。

亿智电子对AI行业有深刻的理解并持续投入核心技术。与CPU、GPU等成熟芯片领域不同，目前AI芯片仍处于发展早期阶段，尚未形成行业标准。因此，客户在基于AI芯片开发智能终端设备时需要高度依赖芯片原厂的支持。

亿智电子坚持自主研发核心IP，其AI芯片都搭载自研NPU（神经网络处理单元），这是公司的核心竞争力所在。只有充分掌握关键核心技术，才能配合下游客户开发出创新型智能终端产品，最终赋能千行百业。

大模型技术正在加速端侧落地。虽然当前大模型技术仅用于云端，但随着生成式AI的快速发展，算力会根据应用场景在云、边、端之间形成合理分布，大模型的小型化、专业化也会加速推进，生成式AI的潜在应用场景将不断扩大。

目前，AI大模型技术在端侧落地有两种方式：云与端侧协同和大模型的小型化。云与端侧协同的方式可以通过解决感、知、决策和反馈四大问题来实现。而大模型的小型化则通过减少模型的参数量和复杂度来降低对算力的需求。

在未来的2~3年内，大模型算法有机会实现轻量化突破，真正具备商业价值的大模型小型化才能到来。这对AI大模型技术在端侧的落地至关重要。

展望未来，大模型、智能看护、教育和工业视觉等将是未来端侧AI蓬勃发展的主流方向。亿智电子正在积极投入对大模型技术的研发，并将与方案商、终端客户共同发力，探索大模型在边缘侧、端侧的商业化落地。

手机比拼新战场——AI端侧大模型

什么是端侧大模型推理？

在PC端侧运行AIGC应用 Intel正打造开源框架BigDL-LLM