大型多模态模型会做数学题吗？在微软最新发布的 MathVista 基准上，即使是当前最强的 GPT-4V 也会有「挫败感」。微软最近发布了名为 “MathVista” 的全新多模态数学推理基准数据集，同时提供了一份涵盖 112 页的详细评测报告，专注于大型多模态模型的数学推理表现。这一基准测试对于目前最先进的模型，如 GPT-4V，来说也是一项挑战，显示了这些模型在多模态数学问题解决方面的局限性。报告还深入分析了 GPT-4V 在自我验证、自洽性和多轮对话能力的研究潜力。

数学推理能力被视为实现通用人工智能的关键一步。除了传统的纯文字场景，许多数学研究和应用还涉及到丰富的图形内容，这为模型的多模态处理能力提出了更高的要求。数学问题历史悠久，可以追溯到公元前 2000 年的美索不达米亚。那时的人们就已经使用泥板来记录包含梯形和三角形的数学问题。研究显示，早在希腊哲学家毕达哥拉斯生活之前，他们就掌握了毕达哥拉斯定理 —— 也就是著名的勾股定理。

中国古代数学的杰作《周髀算经》中不仅包含了勾股定理的优雅证明，也展示了我们祖先在数学领域的深厚造诣。

从小接受的数学教育中，我们经常看到各种生动有趣的图形，这些都强调了视觉元素在数学理解中的重要性。

在现代科学研究中，对大量图像数据进行数学分析成为了一个不可或缺的环节。尤其是随着大型语言模型（LLMs）和大型多模态模型（LMMs）的发展，这些模型在多种任务和领域中展现出令人印象深刻的问题解决能力。

然而，这些模型在视觉场景下的数学推理能力尚未被系统地研究。为了探索这一领域，微软联合加州大学洛杉矶分校（UCLA）和华盛顿大学（UW）共同开发了全新的 MathVista 基准数据集。这个数据集结合了多种数学和视觉任务的挑战，包含 6141 个问题，来源于 28 个现有的多模态数据集和 3 个新标注的数据集，包括 IQTest、FunctionQA 和 PaperQA。MathVista 中丰富的任务类型、推理方式和图像类型对现有的大型模型构成了巨大挑战。微软的研究报告对 12 个最新的大型模型进行了全面评估。实验结果显示，目前性能最强的 GPT-4V 在 MathVista 上达到了 49.9% 的准确率，显著优于排名第二的 Bard 模型，领先了 15.1%。然而，与人类表现相比，GPT-4V 仍有 10.4% 的差距。这种差异主要是由于它在理解复杂图形和进行严密推理方面的不足。

微软的报告还进一步探讨了 GPT-4V 的自我验证能力、自洽性，以及其处理多轮对话的潜力。这些分析强调了未来研究的多个方向，尤其是在提高模型在复杂情境下的理解和推理能力方面。MathVista 基准数据集尽管目前已有多个文本为主的数学推理数据集和多模态问答数据集，但在全面评估大型模型在数学推理领域的能力方面，特别是在多模态数据集方面，仍存在显著的空白。为此，微软提出了 MathVista 数据集，聚焦于视觉场景下的数学问答任务。MathVista 包含 6141 个数学问题，来自于28 个现有数据集和 3 个新标注数据集 ——IQTest、FunctionQA 和 PaperQA。

这三个新标注的数据集各有特色：IQTest 侧重于智力测试题，FunctionQA 专注于函数图形的推理，而 PaperQA 则关注于对文献中的图表进行深入理解，有效地弥补了现有数据集的不足。

MathVista 覆盖了两种主要的任务类型：多选题（占比 55.2%）和数值型开放题（占比 44.8%）。它还包括五大任务类别：图形问答（FQA）、几何解题（GPS）、数学应用题（MWP）、教材问答（TQA）和视觉问答（VQA），这些任务类别代表了当前数学推理领域的前沿挑战。

MathVista 中的数学推理能力与图像多样性MathVista 细分并定义了数学推理的七大能力领域，包括：算术、统计、代数、几何、数值常识、科学和逻辑。这些领域涵盖了数学推理的核心要素，体现了 MathVista 在数学认知范围的全面覆盖。

在图像类型的多样性方面，MathVista 也展现了其独特的广度和深度。该数据集包含了十余种不同的图像类型，从自然图像到几何图表，从抽象场景到合成场景，以及各种图形、图表和绘图。这种丰富的图像类型不仅增加了数据集的复杂性，也为大型多模态模型在处理不同类型的视觉信息时提供了全面的挑战。

全面的量化评估微软的研究报告首次对当前大模型在视觉场景下的数学推理能力进行了全面的量化评估。报告中使用的 MathVista 数据集分为两个子集：minitest 和 test。minitest 子集含有 1000 个问题，主要用于快速评估模型性能。而 test 子集则包含剩余的 5141 个问题，旨在进行模型的标准化评估，因此为了避免测试数据污染，该子集的答案标签数据不对外公开。模型评估过程分为三个关键阶段：生成回答、抽取答案和计算分数。在生成回答阶段，根据测试问题的类型，研究团队使用了特定的模板来引导模型输出答案。

考虑到当前大型模型通常以对话形式输出长文本回答，报告中的实验设计了一个基于 GPT-4 的答案抽取器。这个抽取器通过几个实例提示 GPT-4，从模型的长文本回答中抽取出符合题目类型的短答案。这种方法有效地克服了传统人工评估的高成本问题和基于规则的答案抽取可能导致的不准确性。随后，这些抽取出来的短文本答案被用于计算模型的总体准确率以及在不同子分类别下的准确率。

MathVista 上的大型模型评估实验实验在 testmini 子集上评估了 12 种大模型：包括 ChatGPT、GPT-4 和 Claude-2 等三个大型语言模型，以及 LLaVA、LLaMA-Adapter、miniGPT-4、Bard 和 GPT-4V 等 9 种大型多模态模型。对于大型语言模型，实验设计了两种形式，第一种只利用问题的文字信息，第二种是使用图片的 Captioning 描述和 OCR 文本作为外部增强信息。此外，实验还完成了两种随机基准和人类表现基准。

实验结果显示，当前的大模型在 MathVista 上的整体表现仍有待提升。表现最佳的 GPT-4V 模型达到了 49.9% 的准确率，但这与人类的 60.3% 表现相比还有显著差距。其次是 Bard 模型，准确率为 34.8%，而目前最好的开源模型 LLaVA 的准确率则为 26.1%。这些数据表明，大型模型在视觉背景下的数学推理能力还有很大的提升空间。有趣的是，当结合图像 OCR 和 Captioning 信息时，大型语言模型 GPT-4 的表现（33.9%）接近于多模态模型 Bard（34.8%）。这一发现显示，通过适当的工具增强，大型语言模型在多模态领域具有巨大的潜力。实验还对主要模型在不同数学推理能力和图像类型子类上的表现进行了量化评估。结果显示，GPT-4V 在诸如代数、几何和科学领域的推理能力上，以及在处理表格、函数图、几何图像、散点图和科学图形等图像类型时，其表现接近甚至超过了人类。

在 test 子集的评估中，实验比较了最佳的两个大型语言模型（CoT/PoT GPT-4）和最好的开源大型多模态模型（LLaVA），提供了一个全面的模型性能概览。

Bard 在 MathVista 中的表现在 MathVista 上的评估显示，Bard 模型的总体表现紧随 GPT-4 之后。通过具体案例分析，报告发现 Bard 模型经常产生所谓的 “幻觉现象”，即在生成的答案中引入了问题文本和图片中不存在的信息。此外，Bard 在进行数学运算时也容易出现错误。

例如，在下面的例子中，Bard 在简化分式 8/10 的过程中犯了计算错误。这种问题突显了模型在处理数学问题时的局限性。

GPT-4 在 MathVista 上的表现虽然 GPT-4 本质上是一种语言模型，但通过工具增强（例如 OCR 文字和 captioning 描述的结合），它在 MathVista 上的性能可以达到与多模态模型 Bard 相当的水平。具体来说，当引入这些图片的 OCR 文字和 Captioning 描述作为辅助输入信息时，GPT-4 能够成功解决许多多模态数学问题。这一发现显示了 GPT-4 在多模态问题处理方面的潜力。然而，GPT-4 对这些增强信息的准确性有着极高的依赖性。如果这些 OCR 文字或 Captioning 描述存在错误或不准确性，GPT-4 在推理过程中就很容易走向错误的方向，从而导致不正确的结果。这一点凸显了在使用工具增强大型语言模型时，输入信息质量的重要性。

GPT-4V 在 MathVista 上的全方位分析GPT-4V 作为目前最先进的大型多模态模型，对其能力的深入分析对未来的研究具有重要意义。报告通过大量实例详尽分析了 GPT-4V 在不同维度的能力，特别是在自我验证、自洽性和多轮对话方面的巨大潜力。代数推理能力：在 MathVista 的代数问题中，GPT-4V 展现了理解图像中函数并推断其性质的出色能力，甚至超过了其他大型模型和人类。但在处理低分辨率图像和多函数图像时，GPT-4V 仍面临挑战。

数值计算能力：MathVista 中的算术问题不仅需要准确的基础运算，还需理解多样化视觉场景。如下图所示，GPT-4V 在此方面相比现有模型表现出显著的提升。

几何推理能力：在几何推理方面，GPT-4V 在 MathVista 上的表现与人类相当。在以下两个例子中，无论是小学难度还是高年级难度的问题，GPT-4V 均能给出正确答案，并附有详细解释。

逻辑推理能力：在 MathVista 的逻辑推理问题中，模型需从抽象图形中推导出数字或形状的隐含规律。GPT-4V 在这方面遇到了挑战，其准确率仅为 21.6%，仅略高于随机猜测的 8.1%。

数值常识推理能力：MathVista 中的数值常识推理涉及日常物品和名人知识。这类问题对大型模型是一大挑战。例如，下图所示的问题中，只有 GPT-4V 能正确理解图像中的光学错觉现象。

然而，某些情况下，例如识别烧杯的最大容量，GPT-4V 与 Bard 模型均表现不佳。

科学推理能力：在 MathVista 的科学推理问题上，GPT-4V 显著优于其他大型模型。它经常能准确解析涉及特定科学领域的图中信息，并进行后续推理。

然而，某些基本概念的应用，如相对运动，仍是 GPT-4V 的弱点。

统计推理能力：GPT-4V 在理解 MathVista 中的各种图表、绘图和图形方面展现出强大的统计推理能力。它能准确解答涉及图表分析的数学问题，超过了其他大型模型。

GPT-4V 的自我验证能力探究自我验证（self-verification）是一种社会心理学概念，其核心观点是个体希望他人按照他们自我感知的方式来理解他们。这导致个体主动采取行动，确保他人能看到他们的稳定状态（Talaifar & Swann, 2020）。在微软的实验中，GPT-4V 显示出了一种类似的自我验证能力。这种能力体现在 GPT-4V 能够在推理过程中自主检查自身的行为，并主动纠正可能的错误。值得注意的是，这种自我验证能力不同于仅依赖外部反馈或多轮对话来改进模型输出。例如，在某些情况下，GPT-4V 能够在单次输出中自行审核一组候选答案，从而识别出符合所有给定条件的有效答案。

在以下多步推理问题中，GPT-4V 显示出了显著的能力。它不仅能够进行连贯的推理，还能验证关键步骤的有效性。特别是在遇到无效的中间结果时，如发现得出的长度为负数，GPT-4V 能够主动检测并识别这些错误。这种能力使得 GPT-4V 在识别问题后，能够尝试采用不同的方法来解决问题，从而优化其推理过程。

GPT-4V 的自洽性应用及其局限性自洽性（self-consistency）是在大型语言模型中广泛使用的一种技术，目的是提升模型在处理复杂推理任务时的准确性。这种方法通常包括采样多种推理路径，并选择出现频次最高的答案作为最终解。微软的实验验证了自洽性技术在提高 GPT-4V 在 MathVista 上的性能方面的有效性。实验表明，自洽性对于纠正 GPT-4V 在视觉感知和计算中的错误，以及减少幻觉现象方面起到了显著作用。

然而，实验也揭示了自洽性的局限性。特别是在 GPT-4V 难以正确理解复杂的视觉场景的情况下，自洽性的改善效果并不显著。这表明，尽管自洽性是一种有效的提升方法，但它的成功在很大程度上还是依赖于模型对视觉信息的基本理解能力。

GPT-4V 在 MathVista 上的多轮对话能力微软的报告最后探讨了 GPT-4V 在 MathVista 上进行多轮人机互动对话的能力。实验结果表明，GPT-4V 擅长在多轮对话中有效地利用用户提供的提示来优化其推理过程。这包括根据用户的引导来纠正视觉感知上的误解，修正推理逻辑中的不一致，更正相关领域的知识，甚至在人类的协助下理解和处理极其复杂的图表问题。

主要华人作者Pan Lu

Pan Lu 是加州大学洛杉矶分校（UCLA）的博士生，是 UCLA 自然语言处理实验室（NLP Group）和视觉、认知、学习和自主中心（VCLA）的成员。在此之前，他在清华大学获得计算机科学硕士学位。他曾在微软和艾伦人工智能研究院进行过实习。他是 ScienceQA 和 Chameleon 等工作的作者。他曾荣获亚马逊博士奖学金、彭博社博士奖学金和高通创新奖学金。Tony Xia

Tony Xia 是斯坦福大学计算机系的硕士生。此前，他在加州大学洛杉矶分校获得计算机本科学位。Jiacheng Liu

Jiacheng Liu 是华盛顿大学的博士生，从事常识推理、数学推理和文本生成的研究。此前，他在伊利诺伊香槟分校取得本科学位。他曾获高通创新奖学金。Chunyuan Li

Chunyuan Li 是微软雷德蒙德研究院的首席研究员。此前，他在杜克大学获得了机器学习博士学位，师从 Lawrence Carin 教授。他曾担任过 NeurIPS、ICML、ICLR、EMNLP 和 AAAI 的领域主席，以及 IJCV 的客座编辑。他是 LLaVA、Visual Instruction Tuning 和 Instruction Tuning 等工作的作者。Hao Cheng

Hao Cheng 是微软雷德蒙德研究院的高级研究员，同时也是华盛顿大学的兼职教授。此前，他在华盛顿大学获得了博士学位。他是 2017 年 Alexa Prize 冠军团队的主要成员。