AI技术广泛应用，提供个性化、智能化信息服务，但给网络诈骗带来可乘之机。不法分子利用AI技术实施“拟声”“换脸”等手段，通过模拟他人声音或形象骗取信任，进而诈骗钱财。他们还可能对明星、专家、官员等音视频进行人工合成，假借其身份传播虚假消息，实现诈骗目的。AI诈骗具有迷惑性、隐蔽性强，金额较高等特点。

防范AI诈骗

2023年10月13日，国家金融监管总局发布了《关于警惕利用AI新型技术实施诈骗的风险提示》，为落实这一提示，相关部门、协会向各委员单位和合作机构提出了“三不”要求。

一、不要把“拟声”“换脸”等合成技术泄露或者非法出售给未经核实的个人或者单位。

　　“拟声”“换脸”等合成技术的一大特点即“以假乱真”,不法分子可利用此类技术轻易伪装成他人,并通过快速筛选目标人群、定制化诈骗脚本,精准实施诈骗。在技术产品的生产端设置技术准入壁垒,对于有技术合作的机构或个人严加审核。

二、不要为犯罪分子提供制作虚假图像、音频、视频,仿冒他人身份的犯罪“温床”。

　　元宇宙本身具有沉浸式、交互性等特点,很多不法分子利用这一特性,伪装成普通人潜伏在其中。元宇宙企业提供的产品,尤其是具有交互性质的平台,务必对用户注册信息、操作步骤等进行严加审核。

三、不要把元宇宙平台用户信息等数据违法出售或提供给第三方个人或机构。

泄露个人信息属于违法的。中国对于公民信息保护有很明确严苛的法律。《刑法》第二百五十三条之一违反国家有关规定,向他人出售或者提供公民个人信息,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。违反国家有关规定,将在履行职责或者提供服务过程中获得的公民个人信息,出售或者提供给他人的,依照前款的规定从重处罚。窃取或者以其他方法非法获取公民个人信息的,依照第一款的规定处罚。单位犯前三款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照各该款的规定处罚。

推荐阅读：

数字人很美好，但也要谨防风险

AIGC面临的安全风险问题主要有哪些？

数字人技术虽好 法律风险不容忽视