当今，AI大模型已经在各个行业有了比较深入的应用，不仅有大模型的平台，还有具体的软件产品，硬件产品。就云侧AI大模型和端侧AI大模型，目前呈现繁荣的景象！

云侧AI大模型、端侧AI大模型是什么

云侧AI大模型是指将人工智能模型部署在云端服务器上，利用云计算的强大计算能力和存储资源，来处理大规模的数据和复杂的任务。这种模型可以提供高效、灵活和可扩展的AI服务，适用于各种应用场景，如自然语言处理、图像识别、推荐系统等。

而端侧AI大模型是指将人工智能模型部署在终端设备上，如智能手机、平板电脑等。这种模型可以在本地进行实时的数据处理和推理，减少对云端服务器的依赖，提高响应速度和数据安全性。同时，由于终端设备的计算能力和存储资源有限，端侧AI大模型需要采用轻量化的模型结构和优化算法来降低计算复杂度和能耗。

这两种大模型在计算资源、数据处理、实时性、隐私保护等方面存在显著差异。

1. 计算资源

云侧AI大模型通常部署在云端服务器上，可以利用大量的计算资源进行训练和推理。而端侧AI大模型则部署在终端设备（如手机、平板电脑等）上，计算资源相对有限。因此，云侧AI大模型可以处理更复杂的任务和更大的数据集，而端侧AI大模型则需要在有限的计算资源下进行优化。

2. 数据处理

云侧AI大模型可以直接访问云端的大量数据，可以进行大规模的数据预处理和特征工程。而端侧AI大模型由于计算资源和存储空间的限制，往往需要在设备上进行数据预处理和特征提取，这可能会影响模型的性能。

3. 实时性

云侧AI大模型由于其强大的计算能力和网络带宽，可以实现实时或近实时的推理服务。而端侧AI大模型由于计算资源和网络带宽的限制，其实时性可能较差。此外，端侧AI大模型还需要考虑到设备的能耗和热量问题，以保证设备的正常运行。

端侧AI大模型应用

4. 隐私保护

云侧AI大模型需要将用户的数据上传到云端进行处理，这可能会引发用户的隐私担忧。而端侧AI大模型则可以在设备上进行数据处理，不需要将用户的数据上传到云端，从而更好地保护用户的隐私。

5. 延迟和带宽

云侧AI大模型的推理延迟主要取决于网络延迟，而端侧AI大模型的推理延迟则受到设备性能和网络带宽的影响。此外，云侧AI大模型需要消耗大量的网络带宽来传输数据，而端侧AI大模型则可以在设备上进行本地处理，节省了网络带宽。

6. 成本

云侧AI大模型需要支付云端服务器的使用费用，而端侧AI大模型则只需要支付设备的购买费用。然而，云侧AI大模型可以通过并行计算和分布式处理来降低单次推理的成本，而端侧AI大模型则需要通过优化算法和硬件来实现高性能和低功耗。

大模型的领域加速拓展

当前，大模型相关新研究和新产品不断涌现，应用领域正在从办公、生活、娱乐等领域向医疗、工业、教育等领域加速拓展。据研究机构预测，到2023年，全球大模型市场规模将达到210亿美元，到2028年将达到1095亿美元。

从用户日常应用角度来看，云侧AI大模型的核心在于通用和公用知识，它是人类知识库的积累。然而，它无法了解用户的个人需求，因为用户不可能让它学习很多个人生活习惯，这是很隐私的东西。例如，云侧大模型可以写科幻小说，但很难写出用户过去十年的年终报告并判断出相应的趋势。因为这涉及用户隐私与安全，在未获得用户过去十年工作情况的前提下，云侧大模型无法写出报告。因此，真正帮助用户更好地管理自己的事情时，还需要依靠端侧AI能力。

荣耀CEO赵明以荣耀端侧AI大模型为例，讲了端侧AI大模型的应用。基于个人化理解和感知来完成场景化任务闭环。与云侧大模型相比，其优势在于可以更好地学习用户个人数据，且个人数据不出端、不上云，隐私信息更安全，是个人化的智慧生命体。同时在端侧积累个人知识库，可迁移、可继承、可成长。随着端侧AI对用户个人数据和习惯的学习成长，能够带来更深入的意图理解和更加个性化的复杂场景服务。

Magic6将搭载AI端侧大模型可以智能生成视频

赵明强调，未来每个用户的操作系统使用一段时间之后，都会基于个人使用习惯，对于处理器能力、GPU能力、NPU能力，以及拍照的习惯，进行相应调整。端侧AI将提供最贴心、最“懂你”的使用体验。

在骁龙峰会现场，赵明展示了包括智慧成片和灵动胶囊在内的端侧AI能力。其中，荣耀智慧成片功能可以根据用户偏好和关键节点对图库里的图片、视频进行智能检测、筛选，并主动匹配音乐字幕，一键即可成片。荣耀灵动胶囊则是依托高通芯片的低功耗能力和荣耀独有的眼动操控技术所开发的趣味功能。以出行场景为例，当顶部胶囊出现打车通知时，用户只需要看一眼，就能自动打开卡片看到车牌号码和到达时间，持续注视，卡片还会进一步展开到APP，更方便用户单手操作。

总的来说，云侧AI大模型和端侧AI大模型各有优势和劣势，适用于不同的应用场景。可以预见，未来，端侧AI大模型将在各类产品中和世人“见面”！