谷歌Play将禁止AI应用生成受限内容，明年初实行

生活三易生活网 2023-10-30 09:04

日前，谷歌Play应用商店宣布更新Android开发者政策，要求自明年年初开始，开发者在应用内提供“报告或标记攻击性人工智能生成内容”的功能，同时希望开发者使用这些报告来告知他们应用中的内容过滤和审核。

此外，开发者还需遵循谷歌的指导，禁止和防止AI生成受限内容。谷歌提供的示例内容中包括用于欺诈目的的真实人录音、虚假或误导性的选举内容、以及主要用于性满足目的的生成AI应用和恶意代码的创建等，这些调整适用于任何使用人工智能聊天机器人、人工智能图像/语音/视频生成器的应用。但需要注意的是，并非所有使用人工智能进行内容汇总或提高生产力的应用都受该政策影响。

对此谷歌方面进一步表示，未来应用程序对照片和视频的访问需要“用于与应用程序功能直接相关的目的”，因此不经常需要访问这些功能的应用程序都将被限制权限。其更新Android开发者政策的目的，是要确保AI生成的内容对用户是安全的，能纳入用户的反馈。同时发布新规也证明谷歌方面对于移动端人工智能技术和内容安全的重视，并试图通过加强相关政策和措施，保护用户的安全和权益。

近期，谷歌方面宣布将扩展其漏洞奖励计划（VRP），以奖励研究人员寻找针对生成式人工智能（AI）系统的攻击方案，增强AI的安全性，适用范围包括提示注入、训练数据集中敏感数据的泄露、模型操纵、触发误分类的对抗性扰动攻击和模型盗窃。

谷歌方面的Laurie Richardson和Royal Hansen对此表示，“生成式AI带来了与传统数字安全不同的新问题，例如可能存在的不公平偏见、模型操作或数据误解（幻觉）”。此前在今年7月谷歌方面曾宣布成立AI红队，以帮助解决来自AI系统的威胁，作为其安全AI框架（SAIF）的一部分。

【以上内容转自“三易生活网”，不代表本网站观点。如需转载请取得三易生活网许可，如有侵权请联系删除。】