谷歌Pixel9 AI图像生成功能未对违法场景有效限制 引发滥用争议

【太平洋科技快讯】谷歌最新发布的 Pixel 9 系列智能手机引入了以人工智能为核心的新功能，特别是 Pixel Studio 人工智能图像生成应用，该应用允许用户根据文本提示创建贴纸和图像，但评测人员发现，Pixel Studio 能够轻松创建包括一系列冒犯性场景的图像，引发了对其可能被滥用的担忧。

谷歌声称已采取措施防止 Pixel Studio 被恶意使用，例如限制生成人物图像，并根据反馈调整人工智能模型，以减少不当内容的生成，另一个引起关注的功能是“重构”工具，它能够向现有照片中添加逼真的对象，如众多违法性场景等，这些编辑后的图片难以被识别为经过处理。

尽管谷歌的技术在匹配光线和透视方面表现出色，但其新工具的潜在滥用可能性引发了公众和媒体的广泛讨论，突显了技术创新与社会责任之间的紧张关系。

谷歌表示，他们在设计这些工具时旨在尊重用户的意图，但也将继续完善相关保障措施，以防止生成令人反感的内容，并确保服务条款得到遵守。