照片中,碧昂丝看起来幸福,closed-lip蒙娜丽莎的微笑。但它很容易给她露齿一笑。就拨了她的“幸福”的最大级别使用Adobe Photoshop的智能工具,和她的脸变得柴郡猫的微笑,白牙齿凭空出现。
聪明的肖像,去年发布的测试版,是Adobe AI-powered“神经过滤器,可年龄的脸,表情变化,并改变照片的背景这似乎是在一个不同的时间。这些工具似乎是无害的,但他们提供越来越强大的方式来操作的照片在一个时代,改变了媒体传播在社会媒体以危险的方式。
对于Adobe,这是大企业和大责任。这带来了129亿年的2020美元,超过78亿美元与创造性的云产品旨在帮助创作者设计,编辑,和自定义图像和视频——致力于为用户提供最新的技术,使得Adobe领先于竞争对手。这包括神经过滤器和老AI-powered工具,如2015年的Face-Aware液化,这让人们手动改变某人的脸。
Adobe高管们意识到这些产品的风险在Twitter上的虚假信息传播快六倍比真相。但是而不是限制的发展工具,Adobe集中在等式的另一边:给人们的能力来验证图像拍摄和看到他们被编辑。第一步:一个新的Photoshop工具和网站提供前所未有的透明度为图像是如何被操纵的。
Adobe一直在探索的边缘接受媒体编辑一段时间了。2016年公司的马克斯年会期间,它提供了一个先睹为快的一个工具,允许用户改变画外音只需键入新的单词。这是一个种族繁衍terrifying-demonstration的人工智能可以把词放在别人的嘴。如何鼓励deepfakes反弹爆发,和公司搁置工具。
两年后,当Adobe再次使用Max预览前沿的人工智能技术,包括功能,静态照片转化为视频和视频工具editing-Dana Rao,新的法律总顾问,密切关注。演讲后,他找到了首席产品官斯科特Belsky讨论释放这些功能的影响。他们决定采取行动。
饶,他现在领导公司的AI伦理委员会,与加文·米勒,Adobe的研究,找到一个技术解决方案。最初,他们追求的方法来确定当Adobe的AI工具之一被用于一个图像,但他们很快就意识到,这些检测算法将永远无法赶上最新的操作技术。相反,他们找到了一种方法来显示图像是在何时何地和编辑历史转变成元数据,可以附加图片。
结果是新的内容的凭证功能,今年10月开始公开测试。用户可以打开特性和嵌入他们与识别的图像信息和简化编辑的记录笔记,已经使用公司的工具。一旦出口的Photoshop图像,它维护此元数据,所有这些都可以被任何人通过一个新的Adobe在线网站核实。只需上传任何JPEG,如果它是被编辑内容凭证,验证将向您展示它的元数据和编辑历史,以及前后图像。
凭证内容的一部分科技和媒体公司共同努力,打击虚假信息的传播提供了更多的透明度在网上图片是从哪里来的。一个行业协会联合呼吁内容来源和真实性(C2PA),其中包括Adobe,微软,Twitter, BBC,最近创建一组标准如何建立内容真实性,反映在Adobe的新工具。组的成员也在美国参议院支持一项法案,将创建一个Deepfake专责小组的权限下国土安全部部长。
虽然Adobe抛出支持这个羽翼未丰的公司支持图像出处技术的生态系统,它还继续释放特性,使它越来越容易改变现实。的可访问性等问题研究的工具。“直到最近。你需要有人像斯皮尔伯格”作出令人信服的假媒体,密歇根大学的助理教授安德鲁•欧文斯说,世卫组织与Adobe在尝试检测假图像。“最令人担忧的最新进展在计算机视觉是大众化的过程。”
内容来源技术成为被广泛接受的,他们需要的支持拍照软件制造商,编辑软件公司,和社交媒体平台。Hany Farid,伯克利加州大学教授研究图像处理20年来,Adobe和其合作伙伴的第一步,但现在是像Facebook平台优先C2PA-standardized附加元数据内容。
“你不想得到的生意(说)这是真的还是假的,”他说。“最好的(Adobe)能做的就是手臂人民——普通市民,调查人员信息。我们使用,作为接下来的发射台:恢复一些在线信任。”
其他三个努力验证图像之前它们释放到野外
内容来源公司Truepic最近宣布一个SDK,它将允许任何应用程序与相机嵌入图片和视频验证元数据。
斯坦福大学和南加州大学大屠杀基金会之间的项目,这个实验室使用加密和分散的网络协议来获取、存储,并验证图片和视频。
微软(Microsoft)和英国广播公司(BBC)在2020年加入军队来帮助人们理解图像和视频是否被操纵。