随着AI技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。(5月14日《新华每日电讯》)
技术无罪,但是对于使用者而言,应该遵法行事,让工具能够在合理合法的用途和目的上使用。比如,据专家介绍,即使换脸后不是100%相似,只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权。同时,用于色情视频并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应的刑事责任。对此,使用者理当警醒。
同时,AI技术“换脸”对相关部门也提出了警示。一则有必要加强相关知识的警示,尤其普法工作要跟进;二则有必要针对AI技术的应用出台更为细致的管理办法;三则对于利用AI技术行不法之实的,当给予法律惩治;四则对可能造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频,要严格监管,谨防其造成不良后果。
对于相关平台而言,也应积极作为。诚如专家表示,平台不能只躲在“避风港”里,应完善事前处置机制,加强对违规换脸视频的自动研判与编审,严控问题视频的分发等等。当然,对于一些交易平台,应规范商家的经营行为。比如,商家出售换脸软件,或者提供换脸视频制作服务,应在法律及道德框架内行事,而平台对其中的不法行为,当及时出手规制。
正如此前专家表示,“AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。”的确如此,AI换脸技术原理并不复杂,但尤须警惕擅自换脸“一时爽”背后的侵权风险。这也正需要各方增强法律及安全风险意识,以共同防范AI技术异化为助恶工具。