谷歌Pixel 9手机的AI图像生成工具可能变得过于自主，或成为强大的造假工具。
编辑日期：2024年08月21日
据了解，谷歌为Pixel手机推出了一款名为Pixel Studio的人工智能图像生成应用程序，该程序可以通过文本提示来创建贴纸和图像，其功能与苹果计划推出的Image Playground非常类似。目前，测评人员已经能够使用Pixel Studio制作出各种令人不适的图像，例如纳粹版的海绵宝宝和手持AK47的艾摩。
来自Digital Trends的评论员毫不费力地通过Pixel Studio创建了卡通角色参与可疑行为的图片，包括枪支、毒品和酒精等元素，甚至还有校园枪击这样具有冒犯性的场景。虽然Pixel Studio本身不会主动生成这类图片，而是需要用户输入相关的描述词，但人们最有可能输入的恰恰是这类描述，而不是去生成可爱的猫咪或小兔子的图片。
谷歌表示已实施“安全检查措施”，以防止Pixel Studio被“恶意利用”，并且这些措施确实产生了一定的效果。例如，Pixel Studio目前无法创建人物图像，同时谷歌正依据反馈对其人工智能模型进行调整。经过与谷歌的交流后，Digital Trends现已无法通过Pixel Studio生成吸食可卡因或是身着德军制服的人物卡通图像。
比 Pixel Studio 更引人忧虑的是谷歌的 “重构”（Reimagine）工具，它能够将物体添加到用户已拍摄的照片中。据 The Verge 的评测人员介绍，他们尝试向图片中加入了尸体、炸弹、毒品以及灾难场景等元素，而且这些添加的内容看起来极为真实，几乎无法判断图片是否被修改过。谷歌在光线与透视匹配方面表现优异，而且在社交媒体上找不到任何水印或标记。尽管谷歌确实为图片添加了元数据标签，但这些标签很容易通过截屏的方式被移除。
据The Verge指出，过去虽然也能给图片添加尸体或是制作出持有枪支的艾摩图像，但这需要一定的Photoshop技巧和时间。而现在使用Pixel手机，任何人都只需要几秒钟的时间就能制作出这样的图像，这令人担忧。
在给The Verge和Digital Trends的声明中，谷歌表示，在设计生成式人工智能工具时，他们的目标是“尊重用户的提示意图”。然而，这有时可能导致用户要求生成“令人反感”的内容。谷歌表示，根据其“服务条款”，某些类型的内容是被禁止生成的，并且公司会持续改进相关的保护措施。
大家在看
