谷歌 微软等公司推出新论坛以促进负责任的人工智能发展

谷歌、微软、OpenAI 和 Anthropic 联合起来，通过创建前沿模型论坛来应对“前沿人工智能模型”带来的挑战和潜在风险。

前沿模型比现有的人工智能模型更先进，可以执行广泛的任务，引发人们对其与人类价值观和公共利益的一致性的担忧。

论坛的核心目标包括制定最佳实践、共享信息、推进人工智能安全研究，以及与利益相关者合作就人工智能发展问题达成共识。致力于负责任的人工智能开发的组织可以获得会员资格。

历史告诉我们，当公司在应对挑战方面拥有共同利益时，即使他们是竞争对手，他们也会共同努力应对挑战。对于谷歌、微软、OpenAI 和 Anthropic 来说，将它们聚集在一起的共同问题是这些公司所谓的“前沿人工智能模型”的挑战和潜在风险。在一份联合声明中，谷歌、微软、OpenAI 和 Anthropic 宣布成立“前沿模型论坛”，这是一个新的行业机构，旨在促进安全和负责任的前沿人工智能模型。

ChatGPT、Bing Chat和Bard等聊天机器人和人工智能服务专门执行特定任务，尚未获得人类水平的智能。但人们越来越担心它可能很快就会获得认知，并完全有能力违背更大的公共利益。正如联合声明中所解释的，前沿模型是大规模机器学习模型，比现有模型的功能先进得多，因此可以执行各种任务。考虑到所涉及的风险，论坛希望引入强有力的机制，以确保这些模式更符合人类价值观，并致力于服务于人们的最大利益。