您的位置:首页 >每日动态 >

谷歌Pixel9 AI图像生成功能未对违法场景有效限制 引发滥用争议

【太平洋科技快讯】谷歌最新发布的 Pixel 9 系列智能手机引入了以人工智能为核心的新功能,特别是 Pixel Studio 人工智能图像生成应用,该应用允许用户根据文本提示创建贴纸和图像,但评测人员发现,Pixel Studio 能够轻松创建包括一系列冒犯性场景的图像,引发了对其可能被滥用的担忧。

谷歌声称已采取措施防止 Pixel Studio 被恶意使用,例如限制生成人物图像,并根据反馈调整人工智能模型,以减少不当内容的生成,另一个引起关注的功能是“重构”工具,它能够向现有照片中添加逼真的对象,如众多违法性场景等,这些编辑后的图片难以被识别为经过处理。

尽管谷歌的技术在匹配光线和透视方面表现出色,但其新工具的潜在滥用可能性引发了公众和媒体的广泛讨论,突显了技术创新与社会责任之间的紧张关系。

谷歌表示,他们在设计这些工具时旨在尊重用户的意图,但也将继续完善相关保障措施,以防止生成令人反感的内容,并确保服务条款得到遵守。

免责声明:本文由用户上传,如有侵权请联系删除!