【CSDN引言】随着人工智能以及小型语言模型的崛起，人工编程真的来到了序章了吗？作者通过对ChatGPT的一些小测试，来检验人工智能是否真的可以代替人工编撰代码，最后得出小型语言模型对人工智能以及计算机科学的影响。
作者|BrianHayes
译者｜RicGuan
出品|CSDN（ID：CSDNnews）
去年早些时侯，MattWelsh宣布编程正在进入终结。他在ACMCommunications中写道：
我相信“编写程序”的传统看法正在迈向衰亡，事实上，对于除特别专业的应用程序之外的所有应用程序，正如我们所知，大多数软件编程都将被经过训练的人工智能系统所替代。在一些只须要“简单”程序的情况下（虽然，并不是所有东西都须要在GPU集群上运行的数千亿个参数的模型），这种程序本身将直接由人工智能生成，而不是手工编码。
几周后，在一次讲演中，英格兰扩大了他的死亡观察范围。迈向墓地的不仅仅是编程艺术，还有整个计算机科学。所有计算机科学都“注定要失败”。（右图是讲演的屏幕截图。）
这种感伤消息的传递者虽然并没有伤心欲绝。虽然Welsh早已成为一名计算机科学班主任和实践者（在耶鲁、谷歌、苹果和其他地方），但他显然盼望继续下一步。“无论怎样，写代码很糟糕！”他声称。
我自己对后编程未来的前景并不这么豁达。首先，我持怀疑心态。我觉得我们还没有越过机器学会自己解决有趣的估算问题的门槛。我觉得我们还没有接近这一点，或则正朝着正确的方往前进。据悉，假如事实证明我的观点是错误的，我的冲动不是纵容而是抨击。一方面，我不欢迎我们的新人工智能霸主。虽然她们被证明是比我更好的程序员，我一直会继续使用我的代码编辑器和编译器，感谢。“编程很糟糕？”对我来说，它常年以来始终是我快乐和启迪的源泉。我发觉它也是理解世界的一个有价值的工具。在我还能将一个看法简化为代码之前，我永远不确定我是否理解了它。为了从这些学习经验中获益，我必须实际编撰程序，而不仅仅是说一些魔法词并从阿拉丁的人工智能灯中召唤一个精灵。
小型语言模型
可编程机器可以编撰自己的程序的看法深植根根于估算历史。CharlesBabbage早在1836年讨论他的剖析机计划时就暗示了这些可能性。当Fortran于1957年推出时，它的即将名称是“FORTRAN手动编码系统”。它的既定目标是让计算机“为自己编码问题并生成与人类编码员一样好的程序（但没有错误）”。
Fortran并没有去除编程方法（或错误），但它使过程显得不这么无趣。后来的语言和其他工具带来了进一步的改进。而全手动编程的梦想未曾破灭。机器虽然比大多数人更适宜编程。计算机有条不紊、受规则约束、挑剔且重视字面意思——所有那些特点（无论正确与否）都与前辈程序员联系在一起。
但抨击的是，如今打算承当编程任务的人工智能系统却奇怪地不像计算机。她们的性格更像DeannaTroi，而不是CommanderData。逻辑一致性、因果推理和对细节的仔细关注并不是她们的强项。当她们虽然在思索深刻的看法时，她们有不可思议的辉煌时刻，但她们也有可能遭到惊人的失败——公然、厚颜卑劣的理智失误。她们让我想起一句古老的可爱话：人就会错事，而真正把事情搞砸则须要计算机。
最新的人工智能系统被称为大语言模型（LLM）。与大多数其他近日人工智能发明一样，它们构建在人工神经网路之上，这是一种受脑部结构启发的多层结构。网路的节点类似于生物神经元，节点之间的联接起着突触的作用，突触是讯号从一个神经元传递到另一个神经元的联接点。训练网路可以调整联接的硬度或权重。在语言模型中，训练是通过向网路强制输入大量文本来完成的。该过程完成后，联接权重会对训练文本的语言特点的详尽统计数据进行编码。在最大的模型中，权重数目为1000亿个或更多。
在这些情况下，模型一词可能会形成欺骗。这个词并不是指比列模型或微型模型，如模型客机。相反，它指的是预测模型，如同科学中常见的物理模型一样。正如大气模型预测今天的天气一样，语言模型预测语句中的下一个词组。
最知名的小型语言模型是ChatGPT，它于今年夏天向公众发布，造成了极大的关注。简写GPTGeePeeTee：我的脖子不断地被这三个押韵的辅音撞倒。其他AI产品的名子很甜美，例如Bart、Claude、Llama；我希望我能以同样的精神重命名GPT。我会把它称为Geppetto，它与音节的模式相呼应。GPT代表GenerativePre-TrainedTransformer（生成式预训练变压器）；系统的聊天版本配备了对话式人机界面。ChatGPT由OpenAI开发，该公司创立于2015年，借以将人工智能从少数颇具的科技公司的控制中解放下来。OpenAI成功地完成了这一使命，以至于它早已成为一家颇具的科技公司。
ChatGPT因其用词形式、能说会道、流利的德语和其他语言而既令人赞叹又令人吃惊。该聊天机器人可以模仿知名画家、讲笑话、写情书、翻译诗文、写垃圾电邮、“帮助”学生完成家庭作业，以及散布错误信息以进行政治恶作剧。无论优劣，这种语言能力代表了惊人的技术进步。以前无法建立一个可理解的语句的计算机忽然弄成了能说会道的文字大师。GPT所说的可能是真的，也可能不是，但它几乎总是措词得体。
ChatGPT发布后不久，我吃惊地发觉它的语言把握扩充到了编程语言。该模型的训练集虽然除了包括多种自然语言，还包括来自GitHub等公共储存库的大量程序源代码。基于此资源，GPT就能按照命令编撰新程序。我发觉这很令人震惊，由于计算机对它们的输入是这么挑剔和无情。虽然笔记本有时存在比如拼写错误之类的小错误，人类阅读者仍会努力理解一句话。但若果计算机得到的输入，哪怕只有一个冒号或不匹配的括弧，它还会头晕乱码。具有潜在统计或机率性质的语言模型其实不太可能维持超过几行所需的精度。
我在这件事上又错了。小型语言模型的一项关键创新，即注意力机制，解决了这个问题。当我开始自己使用ChatGPT进行实验时，我很快发觉它确实可以生成没有马大哈句型错误的程序。
但其他问题也骤然出现。
攀越词组阶梯
当你坐出来与机器聊天时，你立刻会面临一个难堪的问题：“我们该聊哪些？”我正在找寻一个可以公正评判ChatGPT编程能力的主题。我想要一个可以通过估算手段解决的问题，但这不须要做太多算术，而这被觉得是小型语言模型的弱点之一。我选择了LewisCarroll150年前发明的字谜游戏，并由DonaldE.Knuth在20世纪90年代进行了深入剖析。
在下边的文字记录中，我那边的每次交换都被标记为BR；玫瑰花结是OpenAI徽标，指定ChatGPT的响应。
当我看见那些语句在屏幕上展开时——聊天机器人逐条逐字地打出它们，有点不稳定，似乎在停出来整理心绪——我立刻被系统的日语能力所惊讶。GPT以简单、有力的诗歌方式列举了词组梯子的所有基本特点：这是一个游戏或谜团，你通过一次修改一个字母从一个词组到另一个词组，梯子的每位梯级必须是一个英语词组，目标就是找到从起始词到目标词的最短可能序列。我自己未能更好地解释它。最有帮助的是COLD->WARM的工作示例。
给人留下语言能力印象的不仅仅是单个语句。短语按段落组织，段落串在一起产生连贯的话语。太棒了！
同样值得注意的是机器人处理模糊和轻率输入的能力。我最初的查询被叙述为是或否问题，但ChatGPT正确地将其解释为恳求：“告诉我你对词组阶梯的了解。”我的第二条指令忽视了任何彩印提示，表明LEAD和GOLD应被理解为文字，而不是金属。聊天机器人本来有权向我提供炼金配方，但它却提供了缺乏的破折号。
但是，摒弃所有那些语言和修辞的复杂性，我真正想测试的是该程序解决词组阶梯问题的能力。里面文字记录中的两个示例都可以在网路上找到，因而它们很可能出现在ChatGPT的训练数据中。换句话说，小型语言模型可能只是记住了解决方案，而不是建立它们。于是我递交了一个更繁重的作业：
乍一看，ChatGPT虽然再度取得了胜利，解决了我确信它曾经未曾遇见过的困局。但仔细瞧瞧。MARSH->MARIS须要两个字母替换，PARIL->APRIL也是这么。MARIS和PARIL作为“有效词”的地位也可能遭到指责。我已投诉：
哇！该机器人提供了油腔滑调的悔过和谢罪，但“更正”的词梯比往年任何时侯都愈发疯狂。看上去我们正在和鹅爸爸儿歌中的矮瘦子玩拼字游戏，而且还声称“我说APRCHI是一个词，他就是一个词！”然后分散所有的墙砖。
这并不是一次单独的、独一无二的失败。我用ChatGPT解决字梯的所有尝试都偏离了轨道，虽然并不总是以同样的方法。在一个案例中，我要求提供从REACH到GRASP的阶梯。AI专家提出了这个解决方案：
REACH->TEACH->PEACH->PEACE->PACES->PARES->PARSE->PARSE->PARSE->PARSE->PARKS->PARKS->PARKS->PARKS->PARES->GRASP.
还有这个：
SWORD->SWARD->REWARD->REDRAW->REDREW->REDREW->REDREW->REDREW->REDRAW->REPAID->REPAIR->PEACE
如今我们像刚学数数的小儿子一样胡言乱语：“一，二，三，四，三，四，四，四，七，蓝，十！”
到目前为止我展示的所有结果都是用ChatGPT3.5版本记录的。我还尝试了3月份推出的新改进版本4.0。更新后的机器人散发出同样和善可亲的自信，但我害怕它也有同样的倾向，身陷不经意的语无伦次：
梯子一开始挺好，有四个步骤，遵守所有规则。但随即人工智能都会打盹。从PLAGE到PAGES须要四个字母替换。之后是PASES，它不是一个词组（据我所知），而且无论怎样这儿都不须要，由于序列可以直接从PAGES转入PARES。更多的荒谬骤然而至。虽然这么，我还是很欣赏关于PLAGE的信息说明。
近来我也有机会尝试Llama2，一个由Meta（Facebook人）出版的LLM。虽然这个模型是独立于GPT开发的，但它其实有一些相同的心理怪癖，比如制订规则之后无视它们。当我要求一个联接REACH和GRASP的阶梯时，Llama2提出了这样的建议：
REACH->TEACH->DEACH->LEACH->SPEECH->SEAT->FEET->GRASP
预言和代码猴子
MattWelsh谈到了建立在小型语言模型之上的估算系统的两种操作模式。到目前为止，我们仍然在我所说的预言模式下工作，在这些模式下，你提出一个问题，计算机都会返回一个答案。你提供一对词组，系统会找到一个联接它们的梯子，并执行抵达那儿所需的任何估算。您交付一个装满财务记录的纸盒，计算机填写您的1040表格。您编译历史气候数据，计算机预测2050年的全球平均温度。
人工智能预言机的代替品是人工智能代码猴子。在第二种模式下，机器不会直接回答你的问题或执行你的估算；相反，它会创建一个可以在传统计算机上运行的程序。您从机器人返回的不是字梯，而是生成字梯的程序，用您选择的编程语言编撰。您无需填写完整的纳税申报表，而是获得报税软件；气候模型取代了气温预测。
让我们用ChatGPT3.5来尝试一下：
您可以使用wordLadder功能来解决字梯疑团。这是一个用法示例：
它的输出为：
请注意，这是一个基本演示，对于更大的字梯或更复杂的场景，可能须要额外的优化或算法，比如广度优先搜索。
同样，简略地浏览一下输出表明性能是成功的。ChatGPT的JavaScript虽然和法语一样流利。它晓得if、while和for句子的句型，以及所有挑剔的标点符号和括弧规则。机器生成的程序虽然将所有这种组件组合在一起以完成指定的任务。还要注意大量的解释性评论，这肯定是为了我们的利益，而不是为了它。同样，描述性变量名称（currentWord、newWord、ladder）。
ChatGPT还主动包含了在特定示例（MARCH到APRIL）上运行程序的说明，而且它复印出了结果，该结果与我们之前的交流中给出的答案相匹配。该输出是通过实际运行程序生成的吗？ChatGPT并没有明晰说明，但它确实宣称，假若您依照指示运行该程序，您将得到显示的结果（在所有愚蠢的荣耀中）。
我们可以通过将程序加载到Web浏览器或其他JavaScript执行环境中来测试这一说法。推论是：被抓！程序确实运行了，但没有形成指定的结果。该程序的真实输出是：MARCH->AARCH->APRCH->APRIH->APRIL。这个序列没有这么奇怪，由于它遵守一次只改变一个字母的规则，但是所有“单词”都正好有五个字母。另一方面，在法语辞典中找不到任何中间“单词”。
有一个简单的算法可以生成序列MARCH->AARCH->APRCH->APRIH->APRIL。只需从左到右逐渐浏览起始词组，修改每位位置的字母，使其与目标词组中相应的字母匹配即可。遵守此规则，任何一对五个字母的词组都可以在不超过五个步骤内进行阶梯排列。MARCH->APRIL只需四步，由于中间的R不须要改变。我难以想像有一种更简单的方式来制做词组阶梯——当然，假定你乐意让任何字母的混杂都算作一个词组。
ChatGPT创建的程序可以使用这个快速而丑恶的解释器，但它会做一些愈发平庸的事情：它建立所有可能的梯子，其第一个梯级是起始词，并继续扩充这种梯子，直至它碰巧发觉一个包含目标词。这是一种浪费惊人的蛮力算法。起始词的每位字母都可以以25种方法进行修改。因而，一个5个字母的词组有125个可能的后继者。当你抵达三级梯午时，就有1.9亿种可能性。（我在这儿提供的示例，比如MARCH->APRIL和REACH->GRASP，有一个不变的字母，因而解决方案只须要四个步骤。尝试估算完整的五步解决方案用尽了我的耐心。）
第4代代码猴子
让我们尝试使用ChatGPT4进行相同的代码编撰练习。给出相同的提示，新机器人的响应方法如下：
该程序具有相同的整体结构（一个while循环，内部有两个嵌套的for循环），而且采用相同的算法策略（在一个位置生成与给定词组不同的所有字符串）。但GPT-4版本有一个很大的新颖之处：承认词组列表是必不可少的。通过这些改变，我们总算有希望生成一个由真实词组组成的阶梯。
虽然GPT-4认识到须要一个列表，但它仅提供一个占位符，即它为前面给出的REACH->GRASP示例配置的10个词组序列。这个词组列表的收据没有多大益处，甚至对于重新生成虚假的“REACH-to-GRASP”阶梯也没有哪些好处。倘若您尝试这样做，程序将报告不存在梯子。这个结果并没有错，由于给定的10个词组并不能产生每一步仅修改一个字母的有效路径。
虽然列表中的词组经过悉心选购，10的词汇量也是十分微不足道的。对于语言模型来说，生成更大的词组列表其实是一项很容易的任务。虽然，LLM是在庞大的文本语料库上进行训练的，其中几乎所有英文词组都可能起码出现一次，而常见词组会出现数百万次。机器人不能提取这种词组的代表性样本吗？答案其实是否定的。虽然GPT可以说早已“阅读”了所有那些文本，但它并没有以任何便于访问的方式储存这种词组。（人类读者也是这么。你能通过回顾一生的阅读经历，列举你词汇量中最常见的10个五字母词组吗？
当我要求ChatGPT4生成一个词组列表时，它抱歉地表示反对：“我很抱歉引起混乱，但作为OpenAI开发的人工智能，我没法直接访问词组数据库或获取数据的能力来自外部来源……”所以我尝试了一些方法，要求机器人写一个1000字的故事，之后按频度对故事的词组进行排序。这个诡计奏效了，但样本太小，没有多大益处。只要坚持下去，我也许可以从GPT中哄出一个可以接受的列表，但我却走了一条捷径。虽然我不是OpenAI开发的AI，我可以访问外部资源。我侵吞了Knuth为他的词组阶梯实验而整理的5,757个五个字母的英文词组列表。有了这个列表，GPT-4编撰的程序都会找到以下九步矩形图：
REACH->PEACH->PEACE->PLACE->PLANE->PLANS->GLANS->GLASS->GRASS->GRASP
这个结果与Knuth自己的字梯程序的输出完全匹配，该程序是他30年前在哈佛学院Graphbase上发表的。
在这一点上，我必须承认，在一点外部帮助下，ChatGPT最终完成了我的要求。它编撰了一个可以构造有效字梯的程序。但我还是持保留心态。虽然GPT-4和Knuth编撰的程序形成相同的输出，但程序本身并不等效，甚至不相像。
Knuth从相反的方向处理这个问题，不是从所有可能的五个字母字符串的集合开始（它们的数目还不到1200万），而是从他的5,757个常见英文词组的小得多的列表开始。之后，他建立一个图（或网路），其中每位词组都是一个节点，当且仅当对应的词组相差一个字母时，两个节点才通过边联接。右图显示了这种图的一个片断。
在图中，字梯是从起始节点到目标节点的一系列边。最佳梯子是最短的路径，遍历最少数目的边。比如，从leash到retch的最佳路径是leash->leach->reach->retch，但也有更长的路径，比如leash->leach->beach->peach->reach->retch。为了找寻最短路径，Knuth采用了EdsgerW.Dijkstra在20世纪50年代设计的算法。
Knuth的词组阶梯程序须要预先投资能够将简单的词组列表转换为图表。另一方面，它防止了浪费地生成数千或数百万个五个字母的字符串，而那些字符串不可能是前者的元素。在解决REACH->GRASP问题的过程中，GPT-4程序形成了219,180个这样的字符串；其中只有2,792个（略少于1%）是真实词组。
假如我所描述的各类词组阶梯程序是中学生递交的，这么我会给没有词组列表的版本打不及格的分数。带有列表的GPT-4程序会通过，但出于效率和甜美的考虑，我只会给Knuth程序打最高分。
为何聊天机器人钟爱劣质算法？您只需通过微软搜索“字梯程序”即可获得线索。几乎所有排行靠前的结果都来自Leetcode、GeeksForGeeks和RosettaCode等网站。那些网站其实是为了讨好求职者和编程大赛的竞争对手，其解决方案要求生成每位词组的所有125个单字母变体，如同GPT程序一样。由于这样的网站数目诸多——似乎有数百个——它们比其他来源更重要，譬如Knuth的书（假如那些文本确实出现在训练集中的话）。这是否意味着我们应当将错误的算法选择迁怒于Leetcode，而不是GPT？相反，我想强调合同不可防止的弱点，其中最常见的答案默认是正确的答案。
每每我想到小型语言模型正在编撰我们所有的软件时，另一个相关的担心都会困惑着我。新的算法从那里来？学院语言模型可能会在重新混和现有项目的元素方面发挥创意，但我看不出它有哪些方式可以发明全新的、更好的东西。
梯子这个词早已够了！
我承认我早已太过于了，用一个特殊（且无关紧要的）问题的太多变体来摧残ChatGPT。其实学院语言模型在其他估算任务上表现得更好。我尝试过几种，结果优劣参半。我只想讨论其中之一，我发觉ChatGPT的努力相当令人心酸。
使用ChatGPT3.5，我寻问第100个斐波那契数的值。请注意，我的问题是在Oracle模式下提出的；我要求的是这个数字，而不是一个估算它的程序。虽然这么，ChatGPT仍自愿编撰一个斐波那契程序，之后呈现该程序的输出。
该程序实现的算法在物理上是正确的；它直接来自斐波那契数列的定义，斐波那契数列是从{0,1}开始的序列的成员，每位后续元素都等于前两项之和。给出的答案也是正确的：354224848179261915075确实是第100个斐波那契数。所以有哪些问题？就是中间句：“当你运行这段代码时，它将输出第100个斐波那契数。”这不是真的。假如运行代码，您将得到错误的值354224848179262000000。近来版本的JavaScript提供了BigInt数据类型来解决此问题，但必须显式指定BigInt，而ChatGPT程序不会这样做。这些异常现象的缘由在JavaScript使用浮点运算，就算是整数值。依据IEEE浮点标准，在不损失精度的情况下可以表示的最大整数是253−1;第100个斐波那契数大概是268。这就是我所说的令人艰辛的思：ChatGPT给出了正确的答案，但它宣称拿来估算该答案的方式难以提供它。机器人一定是通过其他方法找到了正确的值，但具体方法并未透漏。
将同样的任务交给ChatGPT4.0会让我们踏上愈加陌生的旅程。在接出来的交互中，我激活了CodeInterpreter，这是一个ChatGPT插件，容许系统测试和运行它编撰的一些代码。其实，机器人借助了这一功能，首先提出了一个因未知缘由而失败的程序：
这儿ChatGPT是用Python编撰的，Python是CodeInterpreter支持的主要编程语言。编撰程序的第一次尝试是基于斐波那契矩阵的求幂：
这是一种众所周知且有效的方式，但是程序正确地实现了它。但是，因为神秘的缘由，代码类库未能执行该程序。（该代码在标准Python环境中运行良好，并返回正确的答案。）
此时，机器人将转向一个全新的方向并起飞，建议通过称为比奈公式的物理恒方程来估算所需的斐波那契值。它早已写出了物理表达式，但随即又改变了主意。它正确地预见了数值精度的问题：假若给定5的平方根的精确值，该公式将形成精确的结果，但这是不可行的。
为此，如今ChatGPT采取了另一种策略，采用与3.5版本相同的迭代算法。此次我们得到了正确的答案，由于Python（与JavaScript不同）在处理大整数时没有任何问题。
此次的表现给我留下了深刻的印象，不仅仅是正确的答案，还有系统勇敢的坚持。虽然ChatGPT深陷窘境，但它依然坚持不懈，对意想不到的困难倍感疑惑，但拒绝舍弃。“嗯，那种矩阵法应当有效。而且，无论怎样，我们还是试试比奈公式吧……哦，等等，我忘了……不管如何，没必要对此如此花哨。让我们以显而易见的、缓慢的方法来做吧。”我认为这是一种极其人性化的解决问题的技巧。在机器中见到这些行为很奇怪。
记录成功和失败的分数
我的小实验让我对人工智能神谕和人工智能代码猴子正式敌视人类程序员的说法表示怀疑。我听到了一些成功，但更多的是失败。这个低迷的记录是在相对简单的估算任务上编制的，这种任务的解决方案是众所周知的并被广泛发布。
其他人对LLM代码生成进行了更广泛和更深入的评估。在本文末尾的参考书目中，我列举了五项这种研究。我想简略总结一下她们报告的一些结果。
五年前，MarkChen和OpenAI的50多名同学投入了大量精力来检测Codex的确切性，Codex是ChatGPT3的一个分支，专门用于编撰程序代码。（Codex从此成为驱动GitHubCopilot（“程序员的助手”）的引擎。）创建了一套包含164个任务的任务，可以通过编撰Python程序来完成。这种任务主要是教科书练习、编程大赛以及有关怎样在编码工作笔试中取得好成绩的（数目惊人的）文献中的类型。大多数任务只需几行代码即可完成。示例：估算给定词组中的元音数，确定整数是奇数还是偶数。
陈院士团队还对定义成功和失败的标准进行了一些思索。因为LLM过程是不确定的（词组选择基于机率），因而模型可能会在第一次尝试时生成有缺陷的程序，但若果准许继续尝试，最终会得出正确的响应。一个称为室温的参数控制不确定性的程度。在零气温下，模型在每一步总是选择最可能的词组；随着气温下降，随机性被引入，容许选择不太可能的词组。陈等人。通过采用三个成功基准来考虑这些变化的可能性：
pass@1：LLM在第一次尝试时生成正确的程序
pass@10：生成的10个程序中起码有一个是正确的
pass@100：生成的100个程序中起码有一个是正确的
Pass@1测试是在零气温下进行的，因而模型仍然会给出最佳猜想结果。pass@10和pass@100试验是在更高的气温下进行的，使系统才能探求更广泛的潜在解决方案。
作者在所有164项任务上评估了Codex的多个版本。对于最大、功能最强悍的Codex版本简单小游戏c语言源程序，pass@1率约为29%，pass@10率为47%，pass@100达到72%。见到这种数字，我们应当倍感印象深刻还是倍感惊讶？Codex在几乎三分之一的时间（当体温设置为零时）第一次尝试就正确，这值得欢庆吗？或则，倘若您乐意筛选100个提议的计划，找寻一个正确的计划，成功率会激增至近四分之三？我个人的观点是：假若您将当前这一代LLM视为常年研究计划的开创性努力，这么结果是令人鼓舞的。但假如你觉得这项技术可以立刻取代手工编码的软件，那就没哪些希望了。我们还远未达到必要的可靠性水平。
其他研究也得出了大致相像的结果。FredricoCassano等人。评估多个LLM以各类编程语言生成代码的表现；她们报告的pass@1率范围很广简单小游戏c语言源程序，但只有两个超过50%。AlessioBuscemi在40项编码任务上测试了ChatGPT3.5，要求使用10种语言编撰的程序，并将每位查询重复10次。在4,000次试验中，1,833次形成了可以编译和执行的代码。LiuZhijie等人。她们对ChatGPT的评估基于Leetcode网站上发布的问题。通过将生成的代码递交给手动Leetcode评分流程来衡量结果。所有问题的平均接受率范围从C语言编撰的程序的31%到Python程序的50%。Liu等人。另一个有趣的观察是：ChatGPT在2021年9月（GPT训练集的截至日期）以后发布的问题上得分要差得多。她们猜想机器人可能会更好地解决初期的问题，由于它在训练期间早已听到了解决方案。
LiZhong和ZilongWang近来发表的一篇论文赶超了程序正确性的基本问题，考虑了鲁棒性和可靠性。生成的程序能够正确响应格式错误的输入或外部错误，比如尝试打开不存在的文件时？虽然LLM的提示中包含了一个展示怎样正确处理这种问题的示例，Zhong和Wang发觉生成的代码在30%到50%的情况下都难以做到这一点。
不仅这种令人失望的结果之外，我自己还有更多的担忧。几乎所有测试都是通过简略的代码片断进行的。一个在编撰10行程序时碰到困难的LLM在编撰100行或1,000行程序时可能会碰到更大的困难。据悉，简单的通过/失败分级是对代码质量的十分简略的评判。考虑一下Chen小组基准测试套件中的素性测试。这是Codex编撰的程序之一：
这段代码被评为正确——它应当是正确的，由于它永远不会将合数错误地分类为偶数，反之亦然。但是，当n很大时，您可能没有耐心或寿命来等待裁定。该算法尝试将n乘以2到n−1之间的每位整数。
LLM不符常规的实用性
对于小型语言模型来说，现今还处于初期阶段。ChatGPT发布不到一年；底层技术只有大概十年的历史。其实我十分肯定自己声称LLM还没有打算好征服编码世界，但我不能这么自信地预测她们永远不会。这种模型肯定会改进，我们会更好地使用它们。早已有一个新兴行业提供“即时工程”指导，作为充分借助每位查询的技巧。
增强LLM表现的另一种方式可能是与另一种估算系统产生混和体，该系统配备逻辑和推理工具，而不是纯粹的语言剖析工具。DougLenat在他近来逝世前夕，提议将LLM与Cyc结合上去，Cyc是他耗费四六年努力构建的一个巨大的常识数据库。StephenWolfram正在旨在于将ChatGPT集成到Wolfram|Alpha中，Wolfram|Alpha是一个精选数据和算法的在线集合。
虽然这么，一些阻挠LLM课程生成的障碍好像很难克服。
语言模型通过简单的形式发挥其魔力：在撰写诗句或段落的过程中，LLM按照之前的词组选择下一个词组。这如同在手机上写邮件一样：你输入“我接见你……”，软件会建议一些取代的延续：“明天”、“很快”、“稍后”。在LLM中，每位候选人就会被分配一个机率，该机率是依据模型训练集中所有文本的剖析估算得出的。
一个多世纪前，印度物理家A.A.Markov首次探求了通过这些统计剖析生成文本的看法。他的过程如今被称为n-gram模型，其中n是在选择序列的下一个元素时要考虑的词组（或字符或其他符号）的数目。常年以来，我仍然对n-gram过程着迷，虽然主要是由于它的喜剧可能性。（在40年前发表的一篇文章中，我将其称为“将文学弄成胡言乱语的艺术。”）
其实，ChatGPT和其他近来的LLM不仅仅是n元模型。她们的神经网路捕获的语言统计特点远远超出了n个连续符号的序列。非常重要的是注意力机制，它还能跟踪任意距离处选取符号之间的依赖关系。在自然语言中，这些手段对于维持不定式和分词的一致性，或则将动词与其所指对象相关联特别有用。在编程语言中，注意力机制确保了多部份句型结构的完整性，比如if...then...else，但是它保持括弧正确配对和嵌套。
ChatGPT和其他LLM也受惠于人类读者监督的加强学习。当读者评价模型输出的质量和确切性时，正面或负面的反馈有助于打造未来的反应。
但是，虽然有了这种改进，LLM本质上依然是一种依据现有文本中词组出现的机率构建新文本的工具。以我的思维方法，那不是思索。这是比较做作的东西，专注于文字而不是看法。鉴于这些粗糙的机制，我对LLM才能取得这么大的成就倍感既震惊又苦恼。
几六年来，人工智能的建筑师相信真正的智能（无论是自然的还是人工的）须要一个世界的心理模型。为了理解你周围（和你内心）发生的事情，你须要对事物怎样运作、它们怎样组合在一起、接出来会发生哪些、因果关系有直觉。莱纳特坚持觉得，最重要的知识是你在开始读书之前许久就获得的知识。你通过摔倒来了解重力。当你发觉一座积木塔很容易被推倒但很难重建时，你就了解了熵。在语言开始植根之前，你会在小孩期了解痛楚、恐惧、饥饿和爱。袋子里的脑部未能获得这些体验，由于未能直接步入化学或社会宇宙。
LLM虽然是对这种看法的斥责。虽然，它们是语言的模型，而不是世界的模型。她们没有具体变身，没有身体存在可以让她们通过坚苦的学习来学习。她们不仅言语之外哪些都不懂，如何听上去这么聪明、那么凡俗？
在这一点上人们意见不一。该技术的批评者表示，这都是虚假和幻觉。EmilyBender、TimnitGebru和其他人发表的一篇知名（或臭名昭著？）论文将这种模型称为“随机八哥”。批评者说，尽管LLM可能会说得清楚、流利，但他不晓得自己在说哪些。不像小孩，小孩学习词组和事物之间的映射——看！一头牛、一只猫、一辆车辆——LLM只能将词组与其他词组联系上去。在训练过程中，它观察到阳伞常常出现在与下雪相同的环境中，但它没有被弄湿的经历。该模型的操作方法类似于物理中的方式主义方式，您可以在页面上随便联通符号，将它们从方程的左边联通到另左侧，而无需寻问那些符号代表哪些。套用SaulGorn的话：方式主义者难以理解一个理论，除非它毫无意义。
两百五六年前，德国制表师PierreJacquet-Droz制造了一台可以用羽毛笔书写的机械自动机。这个发条装置有数百个曲轴和蜗杆，打扮成一个坐在椅子上的小女孩。激活后，女孩将笔溶入墨水中，写下一条简略的信息——最知名的是笛卡尔格言“我思故我在”。多么滑稽啊！但虽然在18世纪，也没有人相信涂鸦娃娃真的会思索。LLM怀疑论者会将ChatGPT划入同一类别。
OpenAI首席科学家IlyaSutskever在与Nvidia的JensenHuang的对话中有力地阐明了这一点：
“当我们训练一个小型神经网路来确切预测来自互联网的许多不同文本中的下一个词组时，我们正在做的是我们正在学习一个世界模型......从表面上看，我们只是在学习统计相关性文本，但事实证明，为了学习文本中的统计相关性，并挺好地压缩它们，神经网路学习的是生成文本的过程的某种表示。这段文字实际上是对世界的投影。那儿有一个世界，它在这段文字上有一个投影。为此，神经网路正在学习越来越多的世界、人、人类条件、他们的希望、梦想和动机、他们的互相作用和我们所处的情景，但是神经网路学习一个压缩的、抽象的，可用的表示。”
我要告诉你这种对比鲜明的LLM态度理论中哪一个是正确的吗？我不是。这两种选择都不吸引我。假如Bender等人是对的，这么我们必须面对这样一个事实：一个没有推理或觉得能力、没有物质宇宙或社会互动经验、没有自我意识的小玩意，写学院论文、创作饶舌歌曲、给失恋者提供建议。知识、逻辑、情感都毫无价值；油嘴滑舌就是全部。这是一个颠覆性的主张。假如ChatGPT能用这些无意识的演出来欺骗我们，恐怕我们也是骗局，她们的声音和愤怒毫无意义。
另一方面，假如Sutskever是对的，这么我们所珍惜的人类经验的大部份内容——随着我们的成长和生活而渐渐演化的人格意识——可以通过互联网阅读这种文字就了解到。假如真是这样，那我当然就不用忍受中学那个无法言表的痛楚了，我何必犯下所有这些造成这么心碎和困难的荒谬错误；没有必要因与世界的碰撞而伤害我的自尊。我本可以在舒适的扶手椅上阅读所有那些内容；仅仅言语才能使我达到一种脑子清醒的成熟状态，而不会在打造灵魂的山谷中经历所有的试金石和痛楚。
LLM的批评者和捍卫者都倾向于关注机器和人类对话伙伴之间的自然语言通讯——ChatGPT的聊天部份。在企图弄清楚神经网路内部发生了哪些时，更多地关注LLM作为程序员的角色可能会有所帮助，其中对话的双方都是计算机。我可以提供三个论点来支持这一建议。首先，人们太容易被误导。我们会迁就、填补空白、默默地纠正错误、提供缺位的上下文，但是一般会竭尽竭力去理解某句话的含意，虽然它毫无意义。相比之下，计算机是严厉的法院，不能容忍胡诌八道。
其次，假如我们正在找寻机器内部心理模型的证据，值得注意的是数字计算机的模型应当比整个宇宙的模型更简单。由于计算机是我们依照自己的尺寸设计和建立的人工制品，所以关于它的工作原理并没有太多争议。相比之下，宇宙的心智模型则布满地图上。其中一些是从大爆燃开始，然后是宇宙膨胀；有些是由神灵和恶魔统治的；有些以东方与西方、绝地与西斯、红与蓝、我们与她们之间的史诗般的战斗为特色。我们应当期望在GPT的权重矩阵中找到什么模型？她们可能都在哪里，随便地混和在一起。
第三，编程语言具有一种不寻常的语言属性，将它们与计算机内部的操作紧密地联系在一起。美国哲学家J.L.Austin提请人们注意一类特殊的词句，他将其称为述行词。这种成语不仅仅是宣告、描述或恳求；当她们说出这种话时，她们实际上会做一些事情。奥斯汀的典型事例是“我乐意”这句话，假如在正确的背景下说出这句话，才会改变你的婚姻状况。在自然语言中，演出词十分罕见，但在计算机程序中却很常见。在正确的上下文中编撰x=x+1实际上会造成x的值递增。当您测试概念模型是否与现实相符时，言语和行动之间的直接联系可能会有所帮助。
关于小型语言模型对计算机科学的地位和影响，我一直有两种想法（或则可能不止两种！）。人工智能爱好者可能是对的。这种模型可能会接管编程以及许多其他类型的工作和学习。或则它们可能会失败，如同其他有前途的人工智能创新一样。我觉得我们不用等太久才能得到答案。
