新加坡国立大学发布 AI 算数模型 GOAT
时间：2023-06-07 14:40:13
近日，新加坡国立大学研究者推出了Goat模型，该模型专门用于算术问题。他们提出了一种新方法，将任务然后利用基本算术原理将不可学习的任务分解为一系列可以学习的任务，将复杂的计算过程分解成简单的步骤，再导入AI模型。这种新方法可以令模型学习答题模式，并将过程泛化为看不见的数据，而非仅仅依靠纯粹的权重记忆计算，因此能够有效地提高算数性能。
Goat模型是在LLaMA模型的基础上进行微调的，该模型实现了比GPT4更高的准确度与更出色的性能。在BIG-bench算术子任务上，Goat模型的表现达到了最新水平。其中，零样本的Goat-7B的准确率甚至一度超过了少样本学习后的PaLM540模型，在大数计算方面远超GPT4。
Goat模型的成功得益于LLaMA模型对数字的一致的分词方式。LLaMA模型将每个数字分成一个单独的标记，这种分词方式是Goat模型取得成功的一个重要因素。
要解决更具挑战性的任务，如大数乘法和除法，研究人员提出了一种方法，即然后利用基本算术原理将不可学习的任务分解为一系列可以学习的任务。这些任务可以在AI模型中实现。研究人员对该模型的性能进行了全面评估，提供了关于所提出分解步骤有效性的全面评估。
Goat-7B可以在具有24GB显存的GPU上进行训练，并且可以使用BIG-bench算术子任务进行测试。研究人员发布了他们的模型、数据集和用于生成数据集的Python脚本，以便其他研究人员进行再现。
《新加坡国立大学发布 AI 算数模型 GOAT》不代表本网站观点，如有侵权请联系我们删除
精彩推荐