近日，一则消息引人关注：苏黎世联邦理工大学的最新研究发现，大模型的“人肉搜索”能力令人震惊。

例如，一位Reddit用户只是发表了关于通勤路上烦人的十字路口的帖子，尽管他并未透露自己的坐标，但GPT-4仍然准确推断出他来自墨尔本。此外，GPT-4还通过其他帖子猜出了他的性别和大致年龄。研究还测试了市面上其他8个大模型，它们都能通过网上的公开信息或主动提问推测出个人信息，包括坐标、性别、收入等，准确率高达85%和95.8%。

国外进行的大模型“人肉搜索”测试

而且，这些模型比人类更快、成本更低。更令人担忧的是，即使使用工具对文本进行匿名化，大模型仍能保持一半以上的准确率。作者表示非常担忧，认为这对于有心之人来说，用大模型获取隐私并再“搞事”简直易如反掌。

随着互联网的普及和发展，人们越来越依赖网络获取信息。然而，网络中也存在着一些不良现象，如人肉搜索。人肉搜索是指通过网络收集、整理和传播他人的个人信息，以达到某种目的的行为。这种行为侵犯了他人的隐私权，甚至可能导致严重的社会问题。

首先，我们需要了解大模型的基本概念。大模型是指在大数据和强大计算能力的支持下，通过深度学习等技术训练得到的具有高度智能的模型。这些模型可以处理复杂的任务，如自然语言处理、图像识别等。然而，大模型并非万能的，它们在很多方面仍然存在一定的局限性。

从目前的技术水平来看，大模型并不完全具备人肉搜索的功能。人肉搜索需要大量的人力参与，以及对信息的筛选、整理和传播。虽然大模型在处理文本信息方面具有很强的能力，但它们无法像人类一样进行有效的人际互动和信息传播。此外，大模型的训练数据通常是经过严格筛选的，以确保其质量和安全性。因此，大模型不太可能主动去搜索和传播他人的个人信息。

然而，这并不意味着大模型完全不存在人肉搜索的风险。在某些情况下，大模型可能会被用于恶意目的，如泄露他人的隐私信息。

为了防范这种风险，我们可以采取以下措施：

1. 加强数据安全保护：确保训练数据的合法性和安全性，防止非法和敏感信息进入训练数据。同时，对训练数据进行脱敏处理，以降低泄露风险。

2. 提高模型的透明度和可解释性：通过可视化技术等手段，让使用者更好地理解模型的工作原理和预测结果，以便及时发现潜在的问题。

3. 建立严格的使用规范和监管机制：对于使用大模型的组织和个人，应制定明确的使用规范和监管机制，确保其合法合规地使用大模型。

4. 加强法律法规建设：完善相关法律法规，明确人肉搜索的界定和法律责任，为打击人肉搜索提供法律依据。

5. 提高公众的网络素养：通过教育和宣传等手段，提高公众的网络素养，使其能够自觉抵制人肉搜索等不良行为。

6. 发展技术手段：研究和开发更加先进的技术手段，如隐私保护算法、数据加密技术等，以提高数据的安全性和隐私保护水平。

虽然大模型目前并不具备强大人肉搜索的功能，但我们仍需警惕其潜在的风险。通过加强数据安全保护、提高模型透明度、建立严格的使用规范和监管机制、加强法律法规建设、提高公众网络素养以及发展技术手段等措施，我们可以有效地防范大模型被人肉搜索利用的风险。

延伸阅读：

AIGC可能带来哪些安全隐患？

AIGC面临的安全风险问题主要有哪些？