看帖神器
北美华人网
追帖动态
头条新闻
每日新帖
最新热帖
新闻存档
热帖存档
文学城
虎扑论坛
未名空间
北美华人网
北美微论坛
看帖神器
登录
← 下载
《看帖神器》官方
iOS App
,体验轻松追帖。
苹果一篇论文得罪大模型圈?Transformer不会推理,只是高级模式匹配器!所有LLM都判死刑
查看北美华人网今日新帖
最新回复:2024年10月22日 21点29分 PT
共 (1) 楼
返回列表
订阅追帖
只看未读
更多选项
阅读全帖
只看图片
只看视频
查看原帖
千
千渔千寻
大约一个月
楼主 (北美华人网)
https://finance.sina.com.cn/roll/2024-10-19/doc-inctakrz4032388.shtml
新智元报道
编辑:peter东 Aeneas
【新智元导读】
苹果研究者发现:无论是OpenAI GPT-4o和o1,还是Llama、Phi、Gemma和Mistral等开源模型,都未被发现任何形式推理的证据,而更像是复杂的模式匹配器。无独有偶,一项多位数乘法的研究也被抛出来,越来越多的证据证实:LLM不会推理! LLM真的会推理吗?
最近,苹果研究员发文质疑道:LLM根本没有不会推理,所谓的推理能力只是复杂的模式匹配罢了。
论文地址:https://arxiv.org/abs/2410.05229 这项研究也在AI社区引起了广泛讨论。 谷歌DeepMind科学家Denny Zhou表示,自己ICML 2023的一片论文中,也发现了类似现象。
Meta AI研究者田渊栋表示,梯度下降可能无法学习到这样的权重。
巧的是,AI2等机构在23年的一篇研究也被翻出,证实模型根本没有学会数学推理,只是在「照背」答案而已。 网友们搜罗了越来越多的学术证据,一致证明:LLM可能根本不会推理!
图灵三巨头之一的LeCun,也在最近的万字演讲表示,Meta现在已经完全放弃纯语言模型,因为仅靠文本训练,它永远不可能达到接近人类水平的智能!
目前Transformer架构的大语言模型,难道真的是一条弯路? 换个马甲,大模型的数学能力就滑坡了! 这次,苹果的研究者们仔细研究了GPT-4o和o1系列闭源模型,以及Llama、Phi、Gemma、Mistral等开源模型的数学能力。 此前,业界用来评价大模型数学能力的数据集是2021年发布的GSM8K,该数据集包含8000可小学水平的数学应用题,例如下面的例子: 此时距OpenAI发布GSM8K已经三年了,模型性能也从GPT-3的35%,提升到了30亿参数模型的85%以上。
不过,这真的能证明LLM的推理能力确实提高了吗? 要知道,由于是21年发布的数据集,如今的主流大模型可能抓取的训练数据无意间涵盖了GSM8K的题目。 虽然大部分模型没有公开训练数据的信息,但存在数据污染的可能,这就会导致大模型能够靠背题答对GSM8K中题目。 因此,用这个数据集去评判LLM的数学能力,并不准确。 于是,为了客观评价LLM的数学能力极限,苹果的研究者们开发了一个名为GSM-Symbolic的数据集。 GSM-Symbolic将GSM8K的题目进行了修改,例如改变了索菲这个名字,侄子这个家人的称谓,以及各种玩具的多少(数字)。 这样一来,就可以产生出很多个看起来全新,但实际上却是具有相同内核的题目。
另外,除了GSM-Symbolic,这项研究还提出了GSM-NoOp数据集,GSM-NoOp 向题目中添加看似相关但实际上无关的数据,来判断大模型在执行逻辑推理任务时是否会受到无关数据的影响。
不管开源闭源,都会因题目换皮表现更差
实验结果很有趣:就跟人类一样,数学题干一换,很多LLM就不会了!
苹果的研究者们对比了GSM8k和GSM-Symbolic在多种模型上的性能差异,结果发现—— 无论是主流的开源模型还是闭源的GPT系列模型,甚至专门为数理推断专门优化的o1模型,当面对GSM-Symbolic的换皮题目时,准确率都会下降。 大多数模型在GSM-Symbolic上的平均性能,都低于在GSM8K上的平均性能。
GSM8k和GSM-Symbolic和模型性能对比
即使只更改了题目中的名称,大模型的表现也会有存在差异,当只改变了题目中的专有名词时,性能下降在1%-2%之间,当实验者更改数字或结合两类更改时,差异则更为显著。
对比只修改题目中的专有名词,题目中数字和都修改时的准确度 从图2中可看出,几乎所有模型都明显出现了分布均值从右向左的逐渐移动(准确度变低),以及方差增加。 仅仅是更改一下专有名词,就会存在如此大的差异,这种现象实在是令人担忧:看来,LLM的确没有真正理解数学概念。 即使理解了数学题目的小学生,都不会因为题目换汤不换药,就不会做了。
随后,苹果的研究者继续给这些LLM上难度。 他们引入了GSM-Symbolic的三个新变体:删除一个分句(GSM-M1),增加一个分句(GSM-P1)或增加两个分句(GSM-P2)。 果然,当模型面对的题目变难时,例如题目从「打电话每分钟10分钱,打60分钟多少钱?」变为「打电话前10分钟每分钟10分钱,之后每分钟8分钱,如此打60分钟电话费多钱?」,大模型回答的准确性降低,方差变大,这就意味着,LLM的性能极不稳定,可靠性越来越差。
最后,当模型面对增加了和题目无关的论述的题目(GSM-NoOP),性能的下降更是惨不忍睹。 所有模型的性能下降都更加明显,其中Phi-3-mini 模型下降了超过 65%,甚至像o1-preview这样的预期表现更好的模型也显示出显著的下降(17.5%)。
这是由于模型会将无关的论述当成需要操作的步骤,从而画蛇添足地回答错误。
也就是说,当今性能最强大的模型,也依然无法真正理解数学问题。
GSM-NoOP数据集相比GSM8k数据集的性能下降
o1系列模型,依然无法避免这些问题 从这项研究的结果来看,
大模型在执行真正的数学推理方面的重大局限性。
大模型在不同版本的同一问题上的表现高度差异,随着难度轻微增加而表现大幅下降,以及对无关信息的敏感度表明,
大模型进行的推理及运算是脆弱的。
最终,苹果研究者给出这样的结论——
它们可能更像是复杂的模式匹配,而不是真正的逻辑推理。
也就是说,即使我们继续堆数据、参数和计算量,或者用更好的训练数据,也只能得到「更好的模式匹配器」,而非「更好的推理器」。 大模型实际不是解数学题,还是在进行模式匹配 无独有偶,23年的一项研究《信仰与命运:Transformer作为模糊模式匹配器》也证实—— 大模型并没有真正的理解数学概念,而只是根据模糊模式匹配来从训练数据的题库中寻找答案。
论文地址:https://arxiv.org/abs/2305.18654 研究者们很疑惑,为什么Claude或GPT-4这样的模型输出时,听起来非常像一个人在推理,而且问题也都是需要推理才能解决的。 它们仿佛已经在超人类智能的边缘,但在处理一些简单的事情上却有很蠢。 比如,人类在学习基本计算规则后,可以解决三位数乘三位数的乘法算术。但在23年底,ChatGPT-3.5和GPT-4在此任务上的准确率分别只有55%和59%。 到底发生了什么? 在《信仰与命运》这篇论文中,Allen AI、华盛顿大学等的学者对LLM的这种表现提出了一种解释——「线性化子图匹配」。
线性子图匹配
他们猜测,大模型解决问题的方式是这样的。 为了证明这项猜测,研究者测试了三个任务—— 乘法、爱因斯坦逻辑谜题和动态规划问题。 拿乘法举例。 如果LLM真的能通过足够的数据学会东西,或者能通过系统化的推理解决复杂的多步骤问题,那它应该能通过足够的例子或对算法的充分解释来学习乘法。 而乘法问题可以被分解为更小的问题,因此模型应该能通过逐步推理来做出来。 LLM可以完成吗? 为了检验多位数乘法任务,研究者定义了一组大量的乘法问题。从计算两位数和两位数的乘积到五位数和五位数的乘积。 首先,他们会要求模型解决如下问题: 其次,他们向模型提供了思维链示例,将其分解为更小的任务,使用学校教授的标准乘法算法。
提示模型执行任务的程序 但如何衡量一项任务比另一项更难呢?如何追踪模型在哪些地方失败,如何失败? 研究者将乘法算法描述为一个包含加法和乘法等基本操作的定向图。 比如下面是7乘以49所涉及的运算的图表示:
其中包含7乘以4的子任务。
子程序是图中的子图 研究者在评估中发现,即使经过微调,模型也无法从训练集中看到的小乘法问题,推广到更大的乘法问题。 在左侧图中,蓝色的单元格表示模型是在这样的乘积上训练的,得分相当不错。 原因在于,模型在预测与训练数据规模相同的问题时就表现良好。 然而在橙色的单元格,如三位数与三位数或更高位数的乘积,得分就要差得多了。
GPT-3准确率与规模对比 在操作图中可以看出,当任务变得更加复杂时,准确度会急剧下降。
宽度衡量需要同时维护多少个中间结果,而深度衡量需要组合多长的步骤序列才能达到结果 由此,研究者总结出一些真正有趣的东西。
错误告诉我们,LLM中真正发生的事
首先,研究者观察到:
LLM是否能成功解决问题,取决于模型之前是否见过相关的子问题。
换句话说—— 这就是为什么7乘以49会失败,但7乘以4却取得一些进展,因为LL没记住了「7乘以4的呢关于28」这个子问题。 更大的意义在于:与其将模型视为以一般和系统的方式处理问题的各个部分,不如将其视为搜索引擎,它会先召回与特定问题部分大致匹配的例子,然后将这些近似回忆拼接起来。 也就是说LLM通过仅完成整体问题的一部分而取得部分成功。 它是以自己反直觉、更肤浅、更实际的方式分解问题,更关注文本的「表面」,而非系统地思考给定的乘法算法。
高信息增益,甚至能预测意外的部分解决方案
一些问题
作者提出,子图匹配的想法,更多的是一个起点,而非对现状的精确完整描绘。 后续的实证研究,又削弱了这一解释的普遍性。 比如McLeish 等人(2024 年)表明,通过「算盘嵌入」的架构修改,可以显著提高Transformer在算术上的性能。 LLM能够解决比训练数据中更大的多位数加法问题,但未体现乘法性能的同等提升。 如果线性子图匹配是Transformer的一般性限制,那么加法为何会如此容易受到特定修复的影响,而非乘法呢? 这又引出了新的问题:什么样的文本表示将使模型更容易处理多步问题——比如推理链问题? 那些从外部看起来像是在推理的系统,即使我们知道其内部并未在逻辑蕴涵空间中执行搜索,它们的实际限制在哪里? 这些都留待未来解决。 马库斯:我早说过了 对于苹果的研究,马库斯也专门写了一篇博客进行论述。
他表示,LLM的这种「在受到干扰材料的影响下推理失败」的缺陷,并非新现象。 在2017年,斯坦福大学的Robin Jia和Percy Liang就进行过类似研究,得出了相似的结果。
在问答系统中,即使只是改变一两个无关紧要的词或添加一些无关信息,也可能得到完全不同的答案 另一个体现LLMs缺乏足够抽象、形式化推理能力的证据是,当问题变得更大时,其性能往往会崩溃。 这源于Subbarao Kambhapati团队近期对GPT o1的分析:
性能在小问题上尚可,但很快就会下降 在整数算术中,我们也可以看到相同现象。 在越来越大的乘法问题中,这种下降趋势在旧模型和新模型中都被反复观察到。
即使 o1 也受到这个问题的影响:
LLM不遵守棋类规则,是其形式推理持续失败的另一个例子:
马斯克提出,甚至马斯克的Robotaxi也会受到类似困扰:它们可能在最常见的情况下安全运行,但在某些情况下可能难以足够抽象地推理。 马库斯指出:LLM爱好者总是为它们的个别错误开脱,然而最近的苹果研究及其他相关研究和现象,都太过广泛和系统化,让我们无法视而不见了。 他表示,自1998和2001年以来,标准神经网络架构无法可靠地外推和进行形式化推理,一直是自己工作的核心主题。 最后,他再次引用了自己在2001年的《代数心智》一书中的观点——
总的来看,无论是将乘法拆解为有向图,还是一旦面对应用题中称谓和数字变换就答错,这都反映了大模型在逻辑推理上的本质缺陷。 总之,LLM在背题这件事,算是「人赃俱获」了。 这两项研究也警示我们:正如Meta的AI科学家田渊栋所说,只要大模型还是依赖梯度下降,那么就不要期待它变得不那么愚蠢。
参考资料: https://www.reddit.com/r/MachineLearning/comments/1g3cumr/d_will_scale_be_enough_to_get_llms_to_reason/ https://garymarcus.substack.com/p/llms-dont-do-formal-reasoning-and?r=17uk7&triedRedirect=true https://www.answer.ai/posts/2024-07-25-transformers-as-matchers.html
请输入帖子链接
收藏帖子
https://finance.sina.com.cn/roll/2024-10-19/doc-inctakrz4032388.shtml
新智元报道 编辑:peter东 Aeneas 【新智元导读】苹果研究者发现:无论是OpenAI GPT-4o和o1,还是Llama、Phi、Gemma和Mistral等开源模型,都未被发现任何形式推理的证据,而更像是复杂的模式匹配器。无独有偶,一项多位数乘法的研究也被抛出来,越来越多的证据证实:LLM不会推理! LLM真的会推理吗? 最近,苹果研究员发文质疑道:LLM根本没有不会推理,所谓的推理能力只是复杂的模式匹配罢了。 论文地址:https://arxiv.org/abs/2410.05229 这项研究也在AI社区引起了广泛讨论。 谷歌DeepMind科学家Denny Zhou表示,自己ICML 2023的一片论文中,也发现了类似现象。 Meta AI研究者田渊栋表示,梯度下降可能无法学习到这样的权重。 巧的是,AI2等机构在23年的一篇研究也被翻出,证实模型根本没有学会数学推理,只是在「照背」答案而已。 网友们搜罗了越来越多的学术证据,一致证明:LLM可能根本不会推理! 图灵三巨头之一的LeCun,也在最近的万字演讲表示,Meta现在已经完全放弃纯语言模型,因为仅靠文本训练,它永远不可能达到接近人类水平的智能! 目前Transformer架构的大语言模型,难道真的是一条弯路? 换个马甲,大模型的数学能力就滑坡了! 这次,苹果的研究者们仔细研究了GPT-4o和o1系列闭源模型,以及Llama、Phi、Gemma、Mistral等开源模型的数学能力。 此前,业界用来评价大模型数学能力的数据集是2021年发布的GSM8K,该数据集包含8000可小学水平的数学应用题,例如下面的例子: 此时距OpenAI发布GSM8K已经三年了,模型性能也从GPT-3的35%,提升到了30亿参数模型的85%以上。 不过,这真的能证明LLM的推理能力确实提高了吗? 要知道,由于是21年发布的数据集,如今的主流大模型可能抓取的训练数据无意间涵盖了GSM8K的题目。 虽然大部分模型没有公开训练数据的信息,但存在数据污染的可能,这就会导致大模型能够靠背题答对GSM8K中题目。 因此,用这个数据集去评判LLM的数学能力,并不准确。 于是,为了客观评价LLM的数学能力极限,苹果的研究者们开发了一个名为GSM-Symbolic的数据集。 GSM-Symbolic将GSM8K的题目进行了修改,例如改变了索菲这个名字,侄子这个家人的称谓,以及各种玩具的多少(数字)。 这样一来,就可以产生出很多个看起来全新,但实际上却是具有相同内核的题目。 另外,除了GSM-Symbolic,这项研究还提出了GSM-NoOp数据集,GSM-NoOp 向题目中添加看似相关但实际上无关的数据,来判断大模型在执行逻辑推理任务时是否会受到无关数据的影响。 不管开源闭源,都会因题目换皮表现更差 实验结果很有趣:就跟人类一样,数学题干一换,很多LLM就不会了! 苹果的研究者们对比了GSM8k和GSM-Symbolic在多种模型上的性能差异,结果发现—— 无论是主流的开源模型还是闭源的GPT系列模型,甚至专门为数理推断专门优化的o1模型,当面对GSM-Symbolic的换皮题目时,准确率都会下降。 大多数模型在GSM-Symbolic上的平均性能,都低于在GSM8K上的平均性能。 GSM8k和GSM-Symbolic和模型性能对比 即使只更改了题目中的名称,大模型的表现也会有存在差异,当只改变了题目中的专有名词时,性能下降在1%-2%之间,当实验者更改数字或结合两类更改时,差异则更为显著。 对比只修改题目中的专有名词,题目中数字和都修改时的准确度 从图2中可看出,几乎所有模型都明显出现了分布均值从右向左的逐渐移动(准确度变低),以及方差增加。 仅仅是更改一下专有名词,就会存在如此大的差异,这种现象实在是令人担忧:看来,LLM的确没有真正理解数学概念。 即使理解了数学题目的小学生,都不会因为题目换汤不换药,就不会做了。 随后,苹果的研究者继续给这些LLM上难度。 他们引入了GSM-Symbolic的三个新变体:删除一个分句(GSM-M1),增加一个分句(GSM-P1)或增加两个分句(GSM-P2)。 果然,当模型面对的题目变难时,例如题目从「打电话每分钟10分钱,打60分钟多少钱?」变为「打电话前10分钟每分钟10分钱,之后每分钟8分钱,如此打60分钟电话费多钱?」,大模型回答的准确性降低,方差变大,这就意味着,LLM的性能极不稳定,可靠性越来越差。 最后,当模型面对增加了和题目无关的论述的题目(GSM-NoOP),性能的下降更是惨不忍睹。 所有模型的性能下降都更加明显,其中Phi-3-mini 模型下降了超过 65%,甚至像o1-preview这样的预期表现更好的模型也显示出显著的下降(17.5%)。 这是由于模型会将无关的论述当成需要操作的步骤,从而画蛇添足地回答错误。 也就是说,当今性能最强大的模型,也依然无法真正理解数学问题。 GSM-NoOP数据集相比GSM8k数据集的性能下降 o1系列模型,依然无法避免这些问题 从这项研究的结果来看,大模型在执行真正的数学推理方面的重大局限性。 大模型在不同版本的同一问题上的表现高度差异,随着难度轻微增加而表现大幅下降,以及对无关信息的敏感度表明,大模型进行的推理及运算是脆弱的。 最终,苹果研究者给出这样的结论——它们可能更像是复杂的模式匹配,而不是真正的逻辑推理。 也就是说,即使我们继续堆数据、参数和计算量,或者用更好的训练数据,也只能得到「更好的模式匹配器」,而非「更好的推理器」。 大模型实际不是解数学题,还是在进行模式匹配 无独有偶,23年的一项研究《信仰与命运:Transformer作为模糊模式匹配器》也证实—— 大模型并没有真正的理解数学概念,而只是根据模糊模式匹配来从训练数据的题库中寻找答案。 论文地址:https://arxiv.org/abs/2305.18654 研究者们很疑惑,为什么Claude或GPT-4这样的模型输出时,听起来非常像一个人在推理,而且问题也都是需要推理才能解决的。 它们仿佛已经在超人类智能的边缘,但在处理一些简单的事情上却有很蠢。 比如,人类在学习基本计算规则后,可以解决三位数乘三位数的乘法算术。但在23年底,ChatGPT-3.5和GPT-4在此任务上的准确率分别只有55%和59%。 到底发生了什么? 在《信仰与命运》这篇论文中,Allen AI、华盛顿大学等的学者对LLM的这种表现提出了一种解释——「线性化子图匹配」。 线性子图匹配 他们猜测,大模型解决问题的方式是这样的。 为了证明这项猜测,研究者测试了三个任务—— 乘法、爱因斯坦逻辑谜题和动态规划问题。 拿乘法举例。 如果LLM真的能通过足够的数据学会东西,或者能通过系统化的推理解决复杂的多步骤问题,那它应该能通过足够的例子或对算法的充分解释来学习乘法。 而乘法问题可以被分解为更小的问题,因此模型应该能通过逐步推理来做出来。 LLM可以完成吗? 为了检验多位数乘法任务,研究者定义了一组大量的乘法问题。从计算两位数和两位数的乘积到五位数和五位数的乘积。 首先,他们会要求模型解决如下问题: 其次,他们向模型提供了思维链示例,将其分解为更小的任务,使用学校教授的标准乘法算法。 提示模型执行任务的程序 但如何衡量一项任务比另一项更难呢?如何追踪模型在哪些地方失败,如何失败? 研究者将乘法算法描述为一个包含加法和乘法等基本操作的定向图。 比如下面是7乘以49所涉及的运算的图表示: 其中包含7乘以4的子任务。 子程序是图中的子图 研究者在评估中发现,即使经过微调,模型也无法从训练集中看到的小乘法问题,推广到更大的乘法问题。 在左侧图中,蓝色的单元格表示模型是在这样的乘积上训练的,得分相当不错。 原因在于,模型在预测与训练数据规模相同的问题时就表现良好。 然而在橙色的单元格,如三位数与三位数或更高位数的乘积,得分就要差得多了。 GPT-3准确率与规模对比 在操作图中可以看出,当任务变得更加复杂时,准确度会急剧下降。 宽度衡量需要同时维护多少个中间结果,而深度衡量需要组合多长的步骤序列才能达到结果 由此,研究者总结出一些真正有趣的东西。 错误告诉我们,LLM中真正发生的事 首先,研究者观察到:LLM是否能成功解决问题,取决于模型之前是否见过相关的子问题。 换句话说—— 这就是为什么7乘以49会失败,但7乘以4却取得一些进展,因为LL没记住了「7乘以4的呢关于28」这个子问题。 更大的意义在于:与其将模型视为以一般和系统的方式处理问题的各个部分,不如将其视为搜索引擎,它会先召回与特定问题部分大致匹配的例子,然后将这些近似回忆拼接起来。 也就是说LLM通过仅完成整体问题的一部分而取得部分成功。 它是以自己反直觉、更肤浅、更实际的方式分解问题,更关注文本的「表面」,而非系统地思考给定的乘法算法。 高信息增益,甚至能预测意外的部分解决方案 一些问题 作者提出,子图匹配的想法,更多的是一个起点,而非对现状的精确完整描绘。 后续的实证研究,又削弱了这一解释的普遍性。 比如McLeish 等人(2024 年)表明,通过「算盘嵌入」的架构修改,可以显著提高Transformer在算术上的性能。 LLM能够解决比训练数据中更大的多位数加法问题,但未体现乘法性能的同等提升。 如果线性子图匹配是Transformer的一般性限制,那么加法为何会如此容易受到特定修复的影响,而非乘法呢? 这又引出了新的问题:什么样的文本表示将使模型更容易处理多步问题——比如推理链问题? 那些从外部看起来像是在推理的系统,即使我们知道其内部并未在逻辑蕴涵空间中执行搜索,它们的实际限制在哪里? 这些都留待未来解决。 马库斯:我早说过了 对于苹果的研究,马库斯也专门写了一篇博客进行论述。 他表示,LLM的这种「在受到干扰材料的影响下推理失败」的缺陷,并非新现象。 在2017年,斯坦福大学的Robin Jia和Percy Liang就进行过类似研究,得出了相似的结果。 在问答系统中,即使只是改变一两个无关紧要的词或添加一些无关信息,也可能得到完全不同的答案 另一个体现LLMs缺乏足够抽象、形式化推理能力的证据是,当问题变得更大时,其性能往往会崩溃。 这源于Subbarao Kambhapati团队近期对GPT o1的分析: 性能在小问题上尚可,但很快就会下降 在整数算术中,我们也可以看到相同现象。 在越来越大的乘法问题中,这种下降趋势在旧模型和新模型中都被反复观察到。 即使 o1 也受到这个问题的影响: LLM不遵守棋类规则,是其形式推理持续失败的另一个例子: 马斯克提出,甚至马斯克的Robotaxi也会受到类似困扰:它们可能在最常见的情况下安全运行,但在某些情况下可能难以足够抽象地推理。 马库斯指出:LLM爱好者总是为它们的个别错误开脱,然而最近的苹果研究及其他相关研究和现象,都太过广泛和系统化,让我们无法视而不见了。 他表示,自1998和2001年以来,标准神经网络架构无法可靠地外推和进行形式化推理,一直是自己工作的核心主题。 最后,他再次引用了自己在2001年的《代数心智》一书中的观点—— 总的来看,无论是将乘法拆解为有向图,还是一旦面对应用题中称谓和数字变换就答错,这都反映了大模型在逻辑推理上的本质缺陷。 总之,LLM在背题这件事,算是「人赃俱获」了。 这两项研究也警示我们:正如Meta的AI科学家田渊栋所说,只要大模型还是依赖梯度下降,那么就不要期待它变得不那么愚蠢。
参考资料: https://www.reddit.com/r/MachineLearning/comments/1g3cumr/d_will_scale_be_enough_to_get_llms_to_reason/ https://garymarcus.substack.com/p/llms-dont-do-formal-reasoning-and?r=17uk7&triedRedirect=true https://www.answer.ai/posts/2024-07-25-transformers-as-matchers.html