直达「 通往AGI之路 」飞书知识库 →
Graph of Thoughts: Solving Elaborate Problems with Large Language Modelsb
|最后更新: 2023-8-27
Date
Aug 18, 2023
Institution
ETH Zurich
Publication
arXiv
摘要:我们介绍了 "思维图"(GoT):这是一个在大型语言模型(LLM)中推进提示功能的框架,它超越了诸如 "思维链"(Chain-of-Thought)或 "思维树"(ToT)等范式所提供的功能。GoT 的关键理念和主要优势在于能够将 LLM 生成的信息建模为任意图,其中信息单位("LLM 想法")是顶点,而边则对应于这些顶点之间的依赖关系。这种方法可以将任意的 LLM 思想组合成协同结果,提炼出整个思想网络的精髓,或利用反馈回路增强思想。我们展示了 GoT 在不同任务中的优势,例如,与 ToT 相比,排序质量提高了 62%,同时成本降低了 31%。我们确保 GoT 可通过新的思维转换进行扩展,因此可用于引领新的提示方案。这项工作使 LLM 推理更接近人类思维或大脑机制(如递归),而这两者都形成了复杂的网络。
notion image
动机:ToT 方法对思维过程施加了严格的树状结构,这限制了提示内的推理能力。 意味着使用 ToT 方法的 LLM 只能遵循预先确定的推理路径,这可能不适合解决需要更灵活和创造性思维的复杂问题。也限制了法学硕士将不同的思想组合成协同结果或提炼整个思想网络本质的能力。
 
GoT框架:
notion image
 
Loading...