热点观察
AI换脸技术又来“惹事”了!
8月10日,开源社区网站GitHub上一个名为Deep-Live-Cam的项目,向公众展示了其在直播中优秀的AI换脸能力。至此,AI换脸技术终于覆盖了图片、视频、直播等全应用场景。
这一次,人们被其展现出的强大能力所震撼的同时,有了更多的担心。
从技术层面来看,在动态化的直播环境中,AI也实现了高度逼真的面部替换效果,突破了传统图像处理的局限。
这意味着,今后我们所看到的直播或视频连线的主体,已经能在多变的场景中快速且无痕地变换形象了。
如果把AI换脸的技术升级比作打靶,图片场景中的AI换脸,是在固定靶位打固定靶子;视频场景中的AI换脸,是在固定靶位打移动靶子;直播场景中的AI换脸,则是在高速移动的靶位上打高速移动中的靶子。
此次AI换脸技术升级的步伐,确实迈得有点大。人们的担心,主要是因为AI换脸技术自诞生之日起就拥有的“双刃”特性。
AI换脸极大地丰富了内容创作的可能性,为影视制作、娱乐创意等领域带来了革命性的变化,也满足了人们对视觉感官越来越多趣味性和互动性的要求。但与此同时,我们也需要承受其带来的潜在危害,包括且不仅限于不法分子可以利用换脸技术伪造知名人物的形象进行虚假宣传或诈骗,未经授权的换脸行为对个人的形象和声誉造成负面影响,以及AI换脸技术可能引发的道德和伦理等问题。
不可否认,AI换脸应用于直播确实值得警惕,但我们也不能忽视其应用场景和潜在危害并没有随之升级的事实。
一直以来,为解决AI技术在发展及应用落地过程中的潜在危害,各国都相继出台了相关法律法规加以监管。在我国,《中华人民共和国民法典》规定,未经许可使用他人形象进行换脸并用于盈利等恶意目的,属于明确的侵权行为;《生成式人工智能服务管理暂行办法》也规定技术提供者应使用合法来源的数据和基础模型,涉及个人信息时须依法获取同意。
当然,法律法规是为了给AI换脸等相关服务的监管提供依据。个人的预防措施更重要,我们在日常生活中应提高对AI换脸的认知和防范意识,不要轻易相信网络上未经证实的音视频内容,同时保护好自己的肖像、声纹、指纹、虹膜等个人生物信息,谨防被盗用……做好这些,其实我们就能更自信地拥抱科技给生活带来的改变。