周鸿祎谈大模型犯错：大模型会出现幻觉 恳请社会包容创新

【周鸿祎谈大模型犯错：大模型会出现幻觉 恳请社会包容创新】周鸿祎认为，大模型本身会带来很多新的安全挑战，要对安全产品进行重塑才能应对。安全挑战分为两种情况：大模型自身产生幻觉，或者被网上的内容污染甚至“投毒”。“比如网上有些关于俞敏洪老师的帖子完全是无中生有，但它有可能被大模型当成事实，进入事实库，那可能大模型就开始乱说俞敏洪老师的坏话。”此外，周鸿祎提出要“以模治模”，因为大模型有逻辑推理和思考的能力，无法用传统安全方法应对，因此要重塑安全产品，通过训练专业的大模型来解决大模型安全问题。“大模型也会犯错，恳请社会对创新给予一些理解和包容”，周鸿祎说。