近日，有家长称在科大讯飞学习机中发现不当内容。刘庆峰回应称，该事件是意外，由合作伙伴提供的内容在审核未结束时被试用导致问题出现。已下架相关内容并对合作伙伴处罚，后续将加强审核机制。10月24日，在开星火大模型新版上线的利好同时，科大讯飞股票却因负面新闻而跌停，市值蒸发100多亿！

在AI来临的时代，AI并不是说让人类放手不管，其背后的人工审核重要性凸显出现！

AI无法取代人类，并非仅仅因为其计算能力不足，更重要的是它缺乏“立场”。

在最新一部的《碟中谍7》中，有一个名为“智体”的角色，根据女杀手被饶过一命的情况，判断她可能会背叛，并因此决定直接杀掉她。这个决策过程并没有考虑生命的价值或者对错是非。

以上图片为AI生成

然而，在现实生活中，我们需要在理性分析之外，随时引入价值观、沉没成本、机会成本、企业文化等是非对错的因素。

因此，在垂直小模型的训练过程中，需要引入“人工审核员”这个专业岗位，以确保在数据输入阶段就给AI一个正确的思考框架。此外，还需要对模型输出的结果进行审核和修正，以保证数据的准确性和可靠性。同时，人工审核员还需要监控和调整模型的性能，以提高其准确性和可靠性。

为了保证AI大模型的可靠性，需要采取一些措施来删除和修正错误数据，可以采用以下几种方式：

1. 数据清洗：对数据进行预处理和清洗，以去除无效、重复、错误的数据。同时，对数据进行必要的预标注和处理，以提高数据的质量和准确性。

2. 数据扩增：通过数据增强等技术对数据进行扩增，以提高模型的泛化能力和鲁棒性。同时，也可以增加模型的多样性和准确性。

3. 多样化训练：采用多种不同的训练方法和策略对模型进行训练，以获得更加全面和准确的模型结果。例如，可以采用不同的优化器、学习率、批量大小等参数进行训练。

与“内容算法”时代不同的是，算法流的内容审核员只需要标注关键词，即使他们对需要进行监控的关键词内容完全不理解，也不妨碍他们上岗工作。

而在“AI小模型”时代，审核员需要是该领域的专业人士，具备强大的专业知识和严谨的素养，能够确保向AI模型提供100%正确的内容。

从这一点来看，AI并不是在取代现有岗位，而是在提升现有岗位的价值，进而提高知识和薪资水平。

未来，“审核专员”这个招聘岗位将不再存在，取而代之的是“审核专家”。

AIGC面临的安全风险问题主要有哪些？

数字人技术虽好 法律风险不容忽视