必威近日，一段美国歌手泰勒·斯威夫特“说”中文的短视频在网络刷屏，引发热议。视频中，泰勒·斯威夫特“说”着流利中文，音色和讲母语时的音色类似，甚至连口型都能对上。类似的视频还有很多外国人“说”地道中文、很多中国艺人“说”起流利的英文……其实，这些视频都是由AI(人工智能)生成的。南都记者发现，网上除了娱乐明星，一些国外名人也被AI换声开口讲中文。
而南都记者在小红书等平台看到，有“外国人”读着一段段家长里短类型的心灵鸡汤，虽然是英语，但内容明显是流行的段子。有睿智的“外国老人”也有理性的“外国美女”，语音口型和体态动作都无懈可击。原来，非专业技术人员就能用AI变脸做日常视频了。要不是他们说的内容太鸡汤，他们每次姿势又非常相似，如果仅看一次南都记者也难分辨真假。
此前，AI实时换脸，在直播间里出现。AI换脸“杨幂”“迪丽热巴”卖货曾引热议。稍加甄别，便不难发现带货“明星们”多是主播“换脸”而成。
一款AI人像视频工具，只需上传视频，选择语言，就能生成自动翻译、音色调整、嘴型匹配的新视频。对比原片，AI“翻译”后重新配音的新视频不仅进行了较准确翻译，而且连声线和情绪都近乎拟真，嘴型很贴合，难辨真假。对此，有网友表示，这种技术看起来很炫酷，应用场景很广泛，未来可能会越来越成熟，比如翻译配音会很自然、传神。
但也有网友表示担忧，“这会不会被用来模仿声音进行诈骗？”“再加上换脸，以后网上啥都不能信了。”“以后视频造假会越来越容易。”还有网友表示，“希望AI技术发展能被控制在正轨，技术滥用，就是灾难。”
近年来，AI技术被广泛应用于短视频的二次创作，比如AI换脸及换声等。可以说，AI技术是把“双刃剑”。
一方面，AI换脸及换声技术对于工作效率的提高具有非常强的作用。清华大学新闻与传播学院教授司若举例说，AI换脸及换声技术让已故的演员、历史人物可以通过换脸技术重现在屏幕上，在不同国家的语言转译上也可以通过AI的换声技术进行实时转译。
另一方面，近年来，有不法分子为了牟利，利用AI技术进行诈骗。比如利用AI换脸冒充熟人诈骗，甚至将“魔爪”伸向儿童，或者制作发布假新闻混淆视听、赚取流量等。
此外，AI换脸、AI换声还存在法律风险。近期，不少相声演员“说”英文相声、小品演员“演”英文小品的视频在网络上传播。对此，北京岳成律师事务所高级合伙人岳屾山律师表示，用AI技术为他人更换声音、做“翻译”并发布视频，可能涉嫌侵权，主要有三个方面：一是著作权，网友用AI软件将相声、小品等“翻译”成其他语言，需经过著作权人授权，否则就存在侵权问题。二是肖像权，网友用他人形象制作视频，并在网站发布，需要取得肖像权人的同意，否则涉嫌侵权。三是声音权，需要取得声音权人的同意，才能够使用他人的声音。
AI技术发展，需要多层面约束规范。在源头端，需要进一步加强公民个人信息保护。专家建议，加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。
在技术层面，数字水印鉴伪等技术有待进一步普及利用。比如AI生成的视频需带有不可消除的“AI生成”水印字样。
国家也在通过多重手段防范“AI换脸诈骗”，近两年，相关部门先后出台了互联网信息服务深度合成管理规定、生成式人工智能服务管理暂行办法等有关政策文件，先后开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关的工作。
在法律制度层面，进一步完善人工智能等领域相关法律法规。今年8月15日，《生成式人工智能服务管理暂行办法》正式施行。《办法》规定，提供和使用生成式人工智能服务，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
中国科学技术大学公共事务学院、网络空间安全学院教授左晓栋表示，总体而言，生成式人工智能仍处于发展的初期阶段，风险没有完全暴露，应用前景难以估量，所以应当采取包容审慎的态度，坚持发展和安全并重、促进创新和依法治理相结合，要采取有效措施鼓励生成式人工智能创新发展。
据了解，目前我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家。随着各项措施规范出台，我们期待未来人工智能发展更加健康规范必威，从多方面助力人们的工作和生活。
对此，有网络话题提出，一些博主使用人工智能工具，将明星视频片段转化为英语、日语等，或将外国明星视频转为中文。这些“AI嘴替”几乎逼近真人说话的腔调与语气，翻译水准也几近专业层次。对于“AI嘴替”，你怎么看？
有网友对此点赞，例如，网友“盲目的Clio”表示：我希望以后这种翻译直接能够让人类无障碍交流。而网友“五月晴”说：人工智能应用落实相关规定和制度当然有必要，但也不妨对新技术的新应用和新发展多持一些包容心态，才能更好避免扼杀创造的可能性。网友“都是小吨的错”说：如果以后的译制片能用到这种技术，观感应该会上很大一层楼，演员本人音色说完美流利的中文，想想就很酷。
不过，也有网友表示担忧，例如网友“yooukip”说：对人工智能AI的发展感到担忧，现在已经证实被喂了大量素材的AI可以在获取他人信息的情况下伪造新的讯息出现以进行非法活动。希望可以尽快出现规范措施，不要让AI成为违法犯罪滋生的温床。
有专家表示，预防“AI换脸诈骗”，大家还要加强对人脸、声纹、步态、指纹等生物特征数据的安全防护。中国科技大学公共事务学院、网络空间安全学院教授左晓栋提醒，在使用互联网服务或者在社会生活中要求输入我们的人脸等生物特征数据的时候，我们要看一看对方收集我们的生物特征数据是不是符合数据安全法，个人信息保护法的要求是不是合法正当和必要。
目前视频换脸的技术上也不是无懈可击的，在视频沟通时的一些动作，就可以发现破绽。深圳安络科技副总裁肖坚炜说：“在这个操作中，如果我用另外第三个图像去干扰它，也就相当于他在拍这个视频的时候，我让他用手捂脸动一动，它就会干扰到它这个图像的一个合成。我们可以从演示看到效果，我把手放上去之后，会明显地看到他的眼睛在抖动，他的鼻子在抖动，我的手已经消失了，嘴巴也消失了。”
肖坚炜介绍，还可以通过软件来识别，比如替换的眼睛、鼻子、嘴巴和轮廓，像素大小是不一样的，颜色的色域是有差别的，这些我们肉眼看不出来，但是软件算法是可以检测出来的。
官方微信
官方微博
