IT之家8月22日报道称，谷歌上周发布了Pixel 9系列智能手机，其中包括一系列以人工智能为中心的新功能。所有Pixel 9 手机均支持Gemini AI，谷歌还添加了基于AI 的图像生成和编辑工具。然而，测试新功能的评论者发现，人工智能图像生成可能成为谷歌的公关噩梦。
据IT之家报道，谷歌针对Pixel 手机推出了一款名为Pixel Studio 的人工智能图像生成应用。它可以通过文字提示创建贴纸和图像，其功能与苹果计划推出的Image Playground非常相似。到目前为止，审稿人已经能够使用Pixel Studio 创建各种令人不安的图像，例如纳粹版的海绵宝宝和拿着AK47 的埃尔莫。
Digital Trends 的审稿人毫不费力地让Pixel Studio 制作出从事可疑活动、枪支、毒品和酒精，甚至校园枪击等攻击性场景的卡通人物图像。 Pixel Studio 不会主动生成此类图像，而是要求用户输入描述。然而，这正是人们最有可能做的事情，而不是生成可爱的猫和兔子的图像。
谷歌表示，它已经实施了“安全检查”，以防止“恶意使用”Pixel Studio，而且效果很好。例如，Pixel Studio 目前无法生成人物图像，而谷歌正在根据评论反馈调整AI 模型。与Google 沟通后，Digital Trends 无法再使用Pixel Studio 生成卡通人物吸食可卡因或穿着德国士兵服装的图像。
比Pixel Studio 更令人担忧的是谷歌的“Reimagine”工具，该工具可以将物体添加到用户已经拍摄的照片中。 The Verge 的审稿人用它在图像中添加了尸体、炸弹、毒品和灾难场景，而且添加的内容看起来非常逼真，以至于很难判断图像是否经过编辑。谷歌在匹配光线和视角方面做得很好，社交媒体上看不到任何水印或印记。虽然谷歌确实添加了元数据标签，但通过截图很容易删除它们。
The Verge 指出，以前可以将尸体添加到图像中或创建Elmo 拿着枪的图像，但这需要一些Photoshop 技能和时间。令人担忧的是，使用Pixel 手机，任何人都可以只用几秒钟的思考就创建出这样的图像。
谷歌在向The Verge 和Digital Trends 发表的声明中表示，它设计的生成式人工智能工具“尊重用户提示的意图”，这可能会导致用户要求“令人反感的”内容。不过，谷歌声称，其《服务条款》规定了不允许生成的内容，并且他们将继续完善相关保障措施。
