Hero Image
入门指南

概述 ZenModel 是一个用于构建大模型应用的工作流编程框架。它通过构建 Brain( 一个有向的、允许有环的图) 来支持调度存在环路的计算单元（Neuron）或者无环 DAG 的运行。Brain 由多个 Neuron 组成，Neuron 之间通过 Link 连接。它的灵感来自 LangGraph 。 Brain Memory 引用 ristretto 实现。 开发者可以构建出任意执行流程的 Brain 。 串行：按顺序执行 Neuron。 并行与等待：并发的执行 Neuron，并且支持下游 Neuron 等待指定的上游全都执行完成后才开始执行。 分支：执行流程只传播到某一或某些下游分支。 循环：循环对于类似代理（Agent）的行为很重要，您在循环中调用 LLM，询问它下一步要采取什么行动。 有终点：在特定条件下结束运行。比如得到了想要的结果后结束运行。 无终点：持续运行。例如语音通话的场景，持续监听用户说话。 每个 Neuron 是实际的计算单元，开发者可以自定义 Neuron 来实现包括 LLM 调用、其他多模态模型调用等任意处理过程（Processor）以及处理的超时、重试等控制机制。 开发者可以在任意时机获取运行的结果，通常我们可以等待 Brain 停止运行后或者是某个 Memory 达到预期值之后去获取结果。 安装 使用Go module，只需添加以下导入到您的代码，然后 go mod [tidy|download] 将自动获取必要的依赖项。 import "github.com/zenmodel/zenmodel" 或者，运行以下 Go 命令安装 zenmodel 包： $ go get -u github.com/zenmodel/zenmodel 快速入门 让我们使用 zenmodel 构建一个如下图所示的 Brain
Monday, June 8, 2020 | 2 minutes 阅读
Hero Image
并行与等待：如何构建包含并行与等待 Neuron 的 Brain

TrigLinks() 或 Entry() 是并行的触发 links 的 Neuron 完成后 Cast group 中的 links 也是并行触发的 Neuron 等待指定的上游全都执行完成后才开始执行。通过设置 trigger group 来定义需要等待哪些上游完成。 完整示例见： examples/flow-topology/parallel var ( entryInput, entryPoetry, entryJoke string ) func main() { bp := zenmodel.NewBrainPrint() bp.AddNeuron("input", inputFn) bp.AddNeuron("poetry-template", poetryFn) bp.AddNeuron("joke-template", jokeFn) bp.AddNeuron("generate", genFn) inputIn, _ := bp.AddLink("input", "generate") poetryIn, _ := bp.AddLink("poetry-template", "generate") jokeIn, _ := bp.AddLink("joke-template", "generate") entryInput, _ = bp.AddEntryLink("input") entryPoetry, _ = bp.AddEntryLink("poetry-template") entryJoke, _ = bp.AddEntryLink("joke-template") _ = bp.
Monday, June 8, 2020 | 2 minutes 阅读
Hero Image
概念

Link Neuron 之间的连接是 Link，Link 是有方向的，具备源和目的 。 通常情况下，源和目的都指定了 Neuron。添加普通 Link 的方法如下： // add Link, return link ID // bp := zenmodel.NewBrainPrint() id, err := bp.AddLink("src_neuron", "dest_neuron") Entry Link 也可以添加 Entry Link, 这种 Link 没有 源 Neuron，仅指定了 目的 Neuron，它的源是用户。 // add Entry Link, return link ID id, err := bp.AddEntryLink("dest_neuron") End Link 也可以添加 End Link, 这种 Link 仅指定了 源 Neuron，不可指定 目的 Neuron，固定为 End Neuron 。 添加 End Link 的同时，也会创建全 Brain 唯一的 End Neuron（如果不存在则创建），并将 Link 的目的地指向 End Neuron。 这也是唯一的途径创建 End Neuron，无法单独创建一个 End Neuron 而不去连接它。
Monday, June 8, 2020 | 3 minutes 阅读
Hero Image
贡献指南

分享你自定义的 Processor、Brain 到 ZenModel 社区 分享你自定义的 Processor、Brain 到 ZenModel 社区，就像在 HuggingFace、DockerHub、ArtifactHub 分享你自制的 model、image、helm chat 一样，你分享的 Processor、Brain 会展示在当前网页。 提交你的 Processor、Brain 信息到 zenmodel/docs, 就如这个示例 PR
Monday, June 8, 2020 | 1 minute 阅读