您的位置:首页 >每日动态 >

MIT与IBM共研大模型错误校准方法 提升大模型答案准确性增强用户信任

【太平洋科技快讯】随着人工智能技术的发展,大型语言模型被广泛应用于翻译、文章总结、金融诈骗识别等多种任务。但这些模型在提供高效服务的同时,也存在着对错误答案过于自信的问题,这引发了人们对模型可靠性的担忧。为了解决这一问题,麻省理工学院(MIT)与MIT-IBM Watson AI Lab的研究人员提出了一种新型的校准方法,他们称为“温度计”,这种方法通过构建一个较小的辅助模型,对大型语言模型进行校准,以提高其准确性和可信度。

这一方法采用了“温度缩放”这一经典校准技术。在这个框架中,“温度”作为一个缩放参数,用于调整模型的“信心”,使其与预测准确性相匹配。研究人员训练的辅助模型能够在大型语言模型之上运行,自动预测校准新任务所需的“温度”。

“温度计”只需访问大型语言模型内部的一小部分,就能为特定任务数据点预测出正确的“温度”,以实现更精准的校准。这种方法不仅减少了计算资源的需求,而且能够在面对新任务时,提供更准确的校准响应。

研究团队对其应用场景充满期待,他们希望“温度计”能够支持更复杂的文本生成任务,并在更大的语言模型中得到应用,从而推动人工智能技术向更可靠、更高效的方向发展。

免责声明:本文由用户上传,如有侵权请联系删除!