HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Facebb
Date
Mar 30, 2023
Institution
浙江大学
Publication
Artificial Intelligence
HuggingGPT 是一个利用 LLM 连接机器学习社区中的各种 AI 模型来解决 AI 任务的框架。这个系统可以处理来自不同模态的输入，并自主解决大量复杂的任务。
HuggingGPT 处理任务的四个阶段：
- 任务规划：利用 ChatGPT 分析用户的请求，了解用户的意图，将其分解成可解的子任务
- 模型选择：根据托管在 Hugging Face 上的模型的描述来判断选择哪个模型来解决特定的任务
- 任务执行：调用并执行每个选定的模型，并将结果返回给 ChatGPT
- 响应生成：ChatGPT 集成所有模型的预测并输出结果
局限性
- 任务规划依赖于 LLM 的能力，无法确保生成的计划始终可行且最优
- 效率比较低，限制在 LLM 的响应速度，以及多次交互而累计的响应时间
- 上下文长度限制
- 不稳定，依旧是由于 LLM 的不可控导致