微软的开源项目 Guidance 做得十分强大,github.com/microsoft/guidance,它对 prompt 的约束性做到了可编程的规范化,可轻松实现 JSON 格式输出、自定义格式输出等。
它看起来就像是一个模板函数,变量部分可完全由 LLM 来补全,支持在模板中使用循环、函数、条件判断等编程逻辑来编排输出结果。
发布于 浙江
微软的开源项目 Guidance 做得十分强大,github.com/microsoft/guidance,它对 prompt 的约束性做到了可编程的规范化,可轻松实现 JSON 格式输出、自定义格式输出等。
它看起来就像是一个模板函数,变量部分可完全由 LLM 来补全,支持在模板中使用循环、函数、条件判断等编程逻辑来编排输出结果。