近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥,但这些看似细节丰富的图片却与事实毫不相干,这些图片出自人工智能(AI)驱动的图像生成技术。
专家们警告说,这些图片昭示出一个新现实:在重大新闻事件发生后,虚假图片和视频有可能充斥社交媒体,进一步混淆事实,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。
合成图像真假难辨
据美国《财富》杂志网站报道,这些“特朗普被捕”的图片由总部位于荷兰的开源调查媒体“响铃猫”网站的创办人艾略特·希金斯生成。
当希金斯看到有关特朗普可能被捕的消息时,决定将其可视化。为此,他使用最新AI绘画工具Midjourney制作了关于特朗普被捕的图片。他表示,最新工具比之前的版本复杂得多,极大地改进了图像的视觉效果。随后他在推特上分享了合成结果:前总统被警察包围的图片,其中徽章做了模糊处理。据美国《华盛顿邮报》网站报道,仅两天,希金斯发布的这条帖子被浏览了近500万次。
人工智能专家表示,虽然处理并生成虚假图片的技术并不新鲜,但该领域技术的进展速度以及人们对技术的滥用值得关注。数字内容分析公司Truepic的穆尼尔·易卜拉欣指出,“合成内容正在快速发展,真实和虚假内容之间的差距变得越来越难分辨”。
《财富》杂志指出,如今各种AI图像生成工具变得触手可及,它们可在用户发出简单指令后,迅速生成海量栩栩如生的图片。例如,Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像,如此一来,这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”,混淆视听。
关注错误信息传播的华盛顿大学教授杰文·韦斯特说:“这的确会在危机期间增加‘噪音’。”
专业人士强调称,大量制作虚假但看似可信的图像的能力已有了巨大进步,而且很容易用于欺骗目的。很多时候,视觉信息会在没有提供关键背景的情况下被快速转发。事实上,一个关于“特朗普被捕”的虚假图片帖子获得的点赞数超过了7.9万,“就好像这些照片是真的一样”。
技术打击“深度伪造”
希金斯认为,随着合成图像越来越难辨真假,对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育,社交媒体公司可把重点放在开发能够辨别AI生成图像的新技术上,并将这种技术融入自己的平台。
比如,推特出台了相关政策,禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容,例如可能导致暴力、广泛内乱或威胁个人隐私的推文。今年2月,推特推出了“社区笔记”功能,允许用户在推文下方添加注释,并且以长内容的形式进行解释。有观点认为,“社区笔记”或将能够帮助推特成为更可信、让更多人积极发言的平台,并帮助减少假消息、误导性内容的比例,以此吸引更多广告投放。
另据《华盛顿邮报》报道,从2019年开始,主要科技公司加强了打击“深度伪造”的政策。2020年,元宇宙平台公司禁止用户发布高度修改的视频,但仍允许发布旨在模仿或讽刺的修改视频。
数字水印势在必行
数字水印是将一些标识信息直接嵌入数字载体当中,但不影响原载体的使用价值,也不容易被人的知觉系统觉察或注意。通过这些隐藏在载体中的信息,可确认内容创建者、购买者、传送隐秘信息或者判断载体是否被篡改。OpenAI方面此前表示,考虑在ChatGPT中添加水印,以降低模型被滥用带来的负面影响。
中国数字版权和知识产权研究中心主任陈庆佳称,数字水印是以数字形式存在,肉眼无法看到,但是计算机可以。比如OpenAI能把水印加上去,运用了加密解密的算法技术,对话内容隐藏了一些信息,也告诉我们可以查出来,这对用户来说有一定的威慑作用。
$汉邦高科 sz300449$ 数字水印+人脸识别+安防
1、公司自 2007 年起致力于数字水印算法的研究,已经掌握了数字水印的运用原理及核心算法。已经形成了基于视频、音频、图片等比较完善的数字水印应用技术体系,是行业内少数掌握数字水印核心技术的企业之一。
2、2019年公司投资minieye无人驾驶产品开始供货整车厂,同时近期完成新一轮融资,知识产权主要集中在数字图片、视频版权保护领域;
3、人脸识别技术主要应用于公安及安防领域;与青旅中兵会在业务模式和资源整合上进行合作;公司的4K及超高清视频技术主要应用“雪亮工程”项目和广电领域。
4、公司的智慧平安社区智能防控系统,面向公安、社区居民、小区物业,采用组件技术、数据库技术,充分体现了平台软件系统的安全性、先进性等。