斯坦福大学和NotbadAI公司合作开发Quiet-STaR算法使聊天机

研究人员与Notbad AI公司合作开发了一种算法，使当前聊天机器人可以在最终回答问题之前仔细思考可能的答案。在arXiv预印本服务器上发表的论文中，该团队描述了他们的新方法及其与现有聊天机器人的配对效果。

研究人员指出，聊天机器人通常采取使用训练数据来回答人类提出问题的方法。现在，公众使用的聊天机器人都不会停下来思考一个问题的多个可能答案，然后给出它认为最有可能是人类想要的答案。

在这项新研究中，该团队为聊天机器人提供了一种方法，使其可以在回答问题之前先思考一下。据称他们创造的方法让聊天机器人更加准确，并能够以更像人类的方式回答问题。

该算法名为Quiet-STaR，其工作原理是首先要求聊天机器人为给定问题提供多个答案。它将这些答案与原始问题进行比对，以决定哪个看起来是最好的，然后指示聊天机器人将答案返回给用户。该团队还赋予算法从自己的工作中学习的能力，从而逐渐提高其思考能力。

为了测试该算法，研究人员将其添加到开源Mistral 7B聊天机器人中，并通过标准推理测验对其进行测试，结果它的得分为47.2%。如果不使用这种算法，Mistral 7B仅得分36.3%。另外，它在一次数学考试中的表现也要好得多。

该团队指出，他们的算法可以插入到当前使用的各种聊天机器人中，但这必须由制造商完成。他们认为，这一举措可以从整体上提高聊天机器人的准确性。