人工智能技术的飞速发展正在重塑我们的数字生活，而AI换脸和AI变声技术更是引起了广泛关注。这两项技术利用深度学习算法，通过分析和学习大量的人脸图像和语音数据，实现了将一个人的面部特征和声音特征转移到另一个人身上的神奇效果。AI换脸技术可不断生成逼真的人脸图像，而AI变声技术则通过自动语音识别和语音合成技术，先将目标语音转化为文本，再使用目标人物的语音特征合成新的语音，实现声音的无缝转换。

这些技术在影视制作、虚拟偶像、游戏开发等领域有着广泛应用，极大地提升了创作的自由度和表现力。然而，AI换脸和变声技术也存在潜在风险和乱象。一些不法分子利用这些技术制作虚假视频和音频，传播假新闻、侵犯他人肖像权和隐私权，甚至从事诈骗等违法犯罪活动。同时，这些技术也对现有的伦理和法律规范提出了新的挑战。

2024年5月18日，我院张欣副教授就AI换脸、AI变声的相关问题接受了央视新闻频道的采访。张欣副教授指出，AI换脸、AI变声涉及到数据采集和处理、模型训练以及部署和应用等诸多环节。我国已经建立了一系列法律、规章和伦理框架来进行规范和管理。例如当下引发争议的AI复活逝者，就涉及到利用AI技术制作“数字生命”的问题。对此，我国《民法典》对逝者权益保护专门作出了规定。《生成式人工智能服务管理暂行办法》、《互联网信息服务深度合成管理规定》等“对口”规则也为相关业务合规提供了指引。《办法》提出，生成式人工智能服务不得侵害他人肖像权、名誉权、等权益；《规定》也指出，深度合成服务提供者和技术支持者生成或者编辑人脸、人声等生物识别信息的应当履行显著标识义务并取得被编辑个人的单独同意。此外，我国科技部、教育部、工业和信息化部等十部门联合印发的《科技伦理审查办法（试行）》列出了需要开展伦理审查复核的科技活动清单，包括具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发等。因此，在AI技术发展的同时，要守好法律责任的边界，履行相应的法律合规义务和伦理审查义务。

附：相关链接

http://tv.cctv.com/2024/05/18/VIDEkV6jGEg4gJIsxY2JnZoe240518.shtml