人工智能技术的快速发展，使得大量数据被收集、分析和利用。然而，这也带来了数据保护的风险。一方面，人工智能算法可能会泄露用户的隐私信息；另一方面，黑客也可能利用人工智能技术进行网络攻击。因此，我们需要加强对数据保护的监管和技术创新，以确保人工智能技术的健康发展。同时，用户也应该提高自己的安全意识，避免泄露个人隐私信息。

从数据保护角度来看，人工智能是一种数据处理活动。人工智能算法尤其是在深度学习过程中，需要大量数据样本和算法练习。但如果数据被污染、泄露、滥用，则不仅会影响输出结果，还可能危及人身财产安全、社会经济秩序甚至国家安全。因此，在人工智能数据的收集、存储、使用、分享、传输、销毁方面都需要有法可依，有章可循。

1、“数据污染”影响人工智能决策的准确性

人工智能需要处理大量数据，因此数据质量直接决定了人工智能的效率。数据质量低下表现为“数据污染”和“数据偏差”。数据污染是指数据与人工智能算法不适配，从而导致算法模型训练成本增加甚至失效，本质是数据质量治理问题。数据偏差是指人工智能算法决策中所使用的训练数据，因地域数字化发展不平衡或社会价值的倾向偏见，使得数据所承载的信息带有难以用技术手段消除的偏差，从而导致人工智能的决策结果带有歧视性。例如，在金融征信、医疗教育和在线招聘领域，可能会因边远地区、弱势群体和少数族裔的数据量不足、数据质量不高等原因，导致自动化决策的准确率会基于人群特征形成明显的分化，从而产生实质性的歧视影响。

此外，若污染数据被用于政党竞选和政治宣传，则可能对政治生活产生极大冲击。

2、“数据投毒”带来人工智能决策的攻击性

除了客观原因，数据质量也可能因恶意干预而出问题。“数据投毒”是指人为在数据中添加异常数据或篡改数据，通过破坏原有训练数据导致模型输出错误结果，从而引发人工智能的决策偏差或错误，最终产生恶意攻击者所期待的结果。在自动驾驶、智能工厂等对实时性要求极高的人工智能场景中，数据投毒对人工智能核心模块产生的定向干扰将会直接扩散到智能设备终端（如智能驾驶汽车的刹车装置、智能工厂的温度分析装置等），从而产生攻击人身、财产的可怕后果。

3、人工智能引发的数据争夺导致数据壁垒

由于人工智能的发展依靠大量数据的喂养，企业纷纷展开数据争抢。对于底层数据资源的竞争是人工智能企业最关键的市场竞争力体现。在这种情况下，企业、机构间不愿意共享、流通数据，而导致形成“信息壁垒”。而信息壁垒一定程度上阻碍了那些迫切需要大量数据来提升AI技术、增进人民福祉的企业或机构的发展。以医疗数据为例，医疗行业的数据对于提高诊疗效率、优化诊疗方案、促进临床试验等有举足轻重的地位，因而成为医院、药品企业、药械企业争抢的对象。政府与企业之间、大企业与小企业之间、行业与行业之间，因数据确权、数据安全等问题存在着诸多法律和技术上的数据壁垒，形成了“数据孤岛”。不仅极大制约了人工智能的发展，也成为滋生数据黑产的主要经济动因。成熟的医疗数据要素市场尚未形成，数据合法、便捷、安全、低成本的交易流通机制仍是空白，这远远无法满足医疗行业对于数据资源的需求，因此部分企业只能铤而走险，违规购买或违规收集数据。可见，一方面AI需要大数据支撑，另一方面带来数据争夺。因此，AI的发展需要安全、有序的数据分享机制，否则反而会阻碍数据流动形成数据孤岛。

4、无差别数据收集可能危害国家安全

在人工智能技术研发和场景应用中均需要常态化、持续性、高速率、低延时的跨境数据流动。现场无差别收集是人工智能数据采集的重要方式，广泛应用于无人驾驶、智能家居、智慧城市等场景中。其主要通过在公开环境中部署各类传感器或采集终端，以环境信息为对象进行无差别、不定向的现场实时采集。

比如在智能网联汽车的无人驾驶场景中，自动驾驶汽车的传感器需要采集街景数据来支持智能驾驶系统的决策从而控制汽车行驶。但是这种无差别的街景数据采集必然会采集到行人的个人数据，甚至可能会采集到路边的重要基础设施分布、军事营区等重要数据从而给国家安全带来风险。而且在智能网联汽车领域，智能汽车产生的路况、地图、车主信息等大量数据可能回传至汽车制造商的境外服务器，进行产品优化升级和售后服务支撑。如果没有经过数据出境安全评估或网络安全审查，则可能带来个人敏感数据和重要数据出境后的安全风险。这种人工智能应用引发的跨境数据流动，不仅因各国日益趋严的数据安全规制和本地化要求而面临极大的法律障碍，更可能对国家安全、数据主权带来挑战。（本文为节选）

什么是AI生成信息污染？

AI繁荣的背后，不可忽视的”数据污染“