大型语言模型的高效引导生成：摘要和简介

链接表

• 摘要和简介
• LLM 抽样和指导生成
• 迭代 FSM 处理和索引
• 迭代解析的扩展
• 讨论、参考文献和致谢

抽象的

在中心句中，咱们将商品展示是如何使用比较有限心态机的心态互转来施工性地重拾形容神经系统文内容转成情况。该整体布局完成后能在语言模特的关键词表上达成检索，然后导至一种生活施用正则表述式和上文关系不大词法制定计划书文内容转成的很好的方式。该的方式与模特关系不大，能现代人硬性执行工作特定的范围的理论知识和约束力，并使用保障转成文内容的结构的来达成准确的usb接口。它基本上并不会增大标记符号字段转成历程的开销，和特点清晰具有已有克服计划书。开源系统 Python 库 Outlines [Louf and Willard] 中给出一个达成。

1. 简介

我们公司注意的是大规模传达模式 (LLM) [Vaswani et al., 2017, Radford et al., 2019] 转为按照正则传达式或上下两边文决定汉语语法 (CFG) 的图标字段的大问题。此类指引式 LLM 转为使用于使 LLM 模式的输出在标准的后缀名想要下可作，而仅采用调准没办法或总成本价高出平常许多的地采集等等后缀名想要 [Beurer-Kellner et al., 2023, Scholak et al., 2021, Poesia et al., 2022a, Rabinovich et al., 2017, Weng, 2021, Dong et al., 2023, Poesia et al., 2022b, Geng et al., 2023, Wang et al., 2023]。等等工作之前已在的提示库和操作界面中得见活动推广 [Microsoft, 2023, Beurer-Kellner et al., 2023, Rickard, 2023a,b]，但它是的实用性将给予其初始化总成本价的被限。

大部高考分数牵引式转换成的实行都在安全使用于判别 LLM 日语英语词汇英语表里标识概率统计计算的高考分数值会产生问题。1种典型且有郊充分的的方案是经常测试整体日语英语词汇英语表，以判别哪几个标识是有郊的（会根据约束力和先前采集的标识），并将不可用标识的概率统计计算装置为零。这些方案是需要为每种转换成的标识调节统一的 O(N) 成本低，这当中 N 是 LLM 日语英语词汇英语表的各个。

公司提交好几回种方式方式 ，该方式方式 利用正则体现式的非常有限睡眠状态机 (FSM) 工式来多个无法和停此进行导出，并合法引入检索，经过该检索能在每项步优质地提取非零概率计算公式标志集。最终都是种评均成本低为 O(1) 的算法流程图。

关于正则把你想传达出来式的情况下，我的方式与 Kuchnik 几人 [2023] 的方式比较类似于，两人利用转为器数学公式来添加系统设计语种模式化词语表举例的 FSM，此类 FSM 主要包括与此页陈述的引索重复的数据和拓展优越。我的方式不须要详细的转为器抽像，与此同时可不可以更更快地拓展总数的高效性正则把你想传达出来式库，而就不需要修改图片低层自己机十分做到。

更比较重要的是，公司的目录技巧还能否加密到 CFG 和 LALR(1) 介绍器，以便于顺利通过流行歌曲的数据表格格试和和程序编写言语（比如 JSON、Python、SQL 等）对其进行提高效率的引流转成。顺利通过减弱传统性的 LALR(1) 介绍器模块和基本操作来构建介绍的缓冲间，这再者使其成有一种要用于加密原有介绍器构建的技巧。