Towards Reasoning in Large Language Models: A Survey

题目

大型语言模型中的推理：一项调查

论文地址：https://arxiv.org/abs/2212.10403
项目地址： https://github.com/jeffhj/LM-reasoning

摘要

    推理是人类智能的一个基本方面，在解决问题、决策和批判性思维等活动中起着至关重要的作用。近年来，大型语言模型 (LLM) 在自然语言处理方面取得了重大进展，人们观察到，当这些模型足够大时，它们可能会表现出推理能力。然而，目前尚不清楚 LLM 的推理能力有多强。本文全面概述了当前 LLM 推理的知识状态，包括改进和引出这些模型中的推理技术、评估推理能力的方法和基准、该领域先前研究的发现和含义，以及对未来方向的建议。我们的目标是对这个主题进行详细和最新的回顾，并激发有意义的讨论和未来的工作。

     推理是一个认知过程，涉及使用证据、论据和逻辑得出结论或做出判断。它在许多智力活动中起着核心作用，例如解决问题、决策和批判性思维。推理研究在心理学（Wason 和 Johnson-Lair