幻觉是人工智能（AI）发展中的一种副产品，随着大型模型的出现，降低幻觉率成为了实现商业化应用的核心问题。许多大型模型制造商反馈，客户对幻觉的容忍度很低，尤其是在金融和政务行业最先应用的智能客服领域，甚至有些客户提出了“零幻觉”的要求。

正因为如此，中国电信提出的“中国电信星辰大模型将幻觉率降低了40%”引起了广泛关注。

中国电信人工智能科技有限公司总经理何忠江在谈到幻觉时表示：“幻觉是什么？就像你问一个人微积分，他不知道，然后开始胡说八道一样。实际上，大型模型就像人一样，它并没有真正理解这个问题。如果它理解了并回答正确，我们自然而然地认为它出现了知识的涌现。”他认为，通过增加参数量、改进算法技术和强化知识图谱等多种方式，可以逐渐降低幻觉率。

首先，中国电信运用关键信息注意力增强技术，关注和强调关键信息，提高模型的理解能力，增强答案回复的一致性；其次，采用模型知识记忆方案和关联信息的强化训练方案，加强模型对上下文信息的记忆能力，提高关联知识的理解能力，进一步增强模型上下文回复的一致性。

此外，星辰大模型还通过强化知识图谱的技术，来确保训练数据集知识的事实准确性。同时，利用知识图谱的提示能力来辅助模型提升知识问答能力，从而大幅减少幻觉现象的发生。最后，该模型还具备知识溯源的能力，采用多种溯源方式关联问题的参考出处，使生成的答案更加可靠。

更重要的是，在降低幻觉的同时，通过技术创新，星辰大模型降低了对算力的需求。他们完成了千亿规模的模型训练，仅使用了以往五成的算力服务器。

据了解，12月月星辰将全面开放7b、13b参数级大模型，2024年4月将开放千亿级参数大模型，并同步开放更多数据和底座工具。

AI大模型幻觉问题是指什么？

中国电信发布千亿参数“星辰大模型”

中国电信发布“星辰语义”大模型，基于教育行业服务数据训练