Skip to content

大模型节点

大模型节点调用所选语言模型,根据输入参数、提示词、会话历史和已配置技能生成结果。适合文本生成、总结改写、分类判断、信息抽取、视觉理解和结构化输出等任务。

与把插件、工作流等能力直接放到流程图中不同,大模型节点中的技能由模型结合上下文决定是否调用、调用哪一个以及如何组织参数。因此,确定性的关键业务步骤更适合使用独立节点;允许模型自主选择工具的开放任务,才适合配置为大模型技能。

最小可运行配置

配置一个可运行的大模型节点,至少需要完成以下步骤:

  1. 选择可用的模型。
  2. 在“输入”中声明变量,并为变量绑定固定值或上游节点输出。
  3. 编写系统提示词和用户提示词;在用户提示词中引用输入变量。
  4. 选择文本、Markdown 或 JSON 输出格式,并确认输出字段。
  5. 将大模型节点的输出连接到后续节点;需要向工作流调用方返回结果时,再由结束节点返回相应变量。

大模型节点基础配置

运行模式

当前编辑器提供“单次”和“批处理”两种运行模式。

模式输入方式运行特点适合场景
单次每个输入参数绑定一个值每次执行发起一次模型任务问答、总结、分类、单条数据抽取
批处理选择一个或多个列表作为批处理数据源按批次逐项执行,并汇总批次结果多条文案生成、批量分类、列表数据处理

批处理时应先用少量数据试运行,再根据模型限流、单次耗时和费用调整批次大小及并发数量。运行时会限制批量规模;当前定义的默认上限为 20,实际执行会把上限约束在 1~200 之间。使用异常分支时,编辑器不会允许切换到批处理模式。

选择模型与模型设置

模型选择器展示当前空间中可用的模型。不同模型开放的配置不同,不能假设所有模型都支持技能、图片、视频、深度思考或推理过程展示。

模型能力对节点配置的影响
Function Call支持把插件、工作流和知识库配置为模型技能
图片理解“视觉理解输入”中可添加图片
视频理解“视觉理解输入”中可添加视频
推理过程展示输出区域会出现只读的 reasoning_content 字段
结构化输出更适合生成 JSON;仍需通过试运行检查实际返回是否符合字段定义

当前模型设置可能包含:

  • 协议:Chat API 或 Responses API。可选项取决于模型接入配置。
  • 生成随机性:精确、均衡、创意和自定义。自定义模式可调整温度与 Top P。
  • 最大回复长度:约束最终回答的 token 数;当前界面允许配置到 32768。
  • 推理与回答总长度:对支持深度思考的模型约束推理和回答总 token 数;当前界面允许配置到 65536。
  • 包含当前时间:需要模型理解“今天”“现在”等相对时间时开启。
  • SP 防泄漏:降低系统提示词被套取或原样输出的风险,但不能替代权限控制和敏感信息治理。
  • 深度思考:支持的模型可开启,并选择低、中、高思考强度。

模型参数越大不一定效果越好。增加最大长度或思考强度通常会增加耗时和费用,应以真实样例的试运行结果为准。

技能

大模型节点可配置以下技能:

技能类型作用使用前提
插件调用已发布插件中的工具插件版本和工具可用,所需授权已完成
工作流把已发布工作流作为工具调用存在可执行的已发布版本,输入输出定义清晰
知识库检索知识内容并辅助回答知识库可用,检索范围和权限配置正确

只有模型支持 Function Call 时,技能配置才可用。没有完成授权、没有可用工具或没有已发布版本的资源,不能作为可靠的模型技能使用。

技能参数分为两类:

  • 模型可见的输入参数:模型根据当前上下文生成参数值。
  • 模型不可见的输入参数:由开发者绑定固定值或节点变量,避免模型自由生成关键参数。

技能输出也可控制是否提供给模型。关闭后,模型不会根据该字段组织回答,但工作流仍应按资源的实际输出契约处理结果。

如果某个调用必须执行、顺序必须固定,或参数不能由模型猜测,应在流程图中直接使用对应的插件、工作流或知识节点,而不是只把它配置为模型技能。作为模型技能调用的工作流还应能自主运行完成,不宜依赖人工中断后再继续。

输入参数

输入参数可以绑定固定值,也可以引用开始节点或其他上游节点的输出。参数名必须以英文字母开头,只能包含英文字母、数字和下划线,并且在当前节点内保持唯一。

建议只把任务真正需要的数据传入大模型节点,避免把大对象、敏感字段或无关上下文全部交给模型。输入为空、类型不匹配或上游分支没有产出时,应在前置节点中显式处理。

提示词变量

系统提示词和用户提示词都可以引用已声明的输入变量。当前运行时可靠支持以下写法:

  • 顶层变量:{{变量名}}
  • 对象字段:{{变量名.子字段}}

当占位符是整段内容时,运行时会尽量保留变量原有类型;占位符嵌在普通文字中时,非字符串值会被序列化后拼入文本。引用不存在的变量通常会渲染为空,因此变量名拼错不一定直接报错,发布前必须通过试运行核对实际提示词和输出。

当前运行时不会解析 {{列表变量[0]}} 这类数组下标语法。需要单个元素时,应先在上游节点中取值;需要整组数据时,可以直接传入完整列表,并在提示词中说明其结构。

视觉理解输入

选择支持图片或视频理解的模型后,“视觉理解输入”区域才会开放相应类型。视觉内容应在该区域配置,不要把图片地址当作普通文本输入期待模型自动识别。

配置时需要注意:

  • 图片或视频必须来自模型运行环境能够访问的地址或平台文件资源。
  • 视觉输入类型必须与模型能力一致;只支持图片的模型不能处理视频。
  • 提示词中应明确说明需要观察的对象、判断标准和输出格式。
  • 多个视觉输入会增加 token、处理时间和费用,应控制数量和尺寸。

会话历史

在对话流中,大模型节点可以携带最近若干轮会话历史;普通工作流不会显示该配置。当前可设置 1~20 轮,默认 3 轮。

历史轮数越多,上下文越完整,但也会增加 token 消耗,并可能把无关旧话题带入当前任务。需要稳定结构化处理时,优先通过明确输入传递数据,而不是依赖较长会话历史。

提示词

配置项作用建议写法
系统提示词设定角色、长期规则、任务边界和安全约束写不随单次输入变化的规则,避免加入临时数据
用户提示词描述本次任务并引用输入变量明确任务、数据、步骤、异常情况和期望输出

一个稳定的提示词通常需要说明:

  1. 要完成什么任务,以及哪些内容不应推断。
  2. 输入数据的含义、可能为空时如何处理。
  3. 判断或抽取规则,规则冲突时的优先级。
  4. 输出语言、格式、字段和长度限制。
  5. 无法确认时应返回什么,而不是让模型编造答案。

输出格式

格式节点输出适合场景
文本一个字符串字段分类标签、短答案、供下游文本处理
Markdown一个字符串字段;内容约定使用 Markdown报告、列表、富文本展示
JSON按配置声明多个字段及类型信息抽取、条件判断、下游节点稳定取值

选择 JSON 时,可以逐项添加字段,也可以导入一个 JSON 对象生成字段。导入内容的顶层必须是对象。字段名应语义明确,字段类型必须与提示词中的输出约束一致。

仅把一个字符串字段命名为 output 并不会自动获得可靠的结构化结果;需要结构化数据时,应真正声明所需字段和类型,并在提示词中逐项说明。模型返回非法 JSON 时,运行时可能保留原始字符串,后续字段不一定可取,因此必须用正常、空值、长文本和异常输入分别试运行。

支持推理过程展示的模型会额外提供只读的 reasoning_content。不要让下游关键业务依赖推理文本的固定格式。单个大模型节点的总输出受 2 MiB 限制。

大模型节点输出与异常设置

“支持续写”开关

旧文档把“续写”描述为达到模型最大输出长度后必然自动多次请求并拼接结果。当前版本中,编辑器显示“支持续写”开关,但续写还取决于模型能力、运行协议和实际执行链路,不能把打开开关当作稳定的完整输出保证。

对不能截断的长内容,建议同时采取以下措施:

  • 选择明确支持续写的模型,并先做试运行验证。
  • 合理提高最大回复长度,但同时评估耗时和费用。
  • 缩小单次任务范围,使用循环或批处理分段生成。
  • 在下游检查结束标记、字段完整性或 JSON 是否可解析。

异常处理

配置项当前行为
整体执行超时默认 180 秒;当前界面允许配置到 1800 秒
首次响应超时限制模型返回首个 token 的等待时间,最大 100 秒,并且不得大于整体执行超时
重试次数可配置 0~3 次;默认不重试
中断流程节点失败后结束本次工作流运行
返回设定内容节点失败后返回预设字段值并继续后续流程
执行异常流程节点失败后转入异常分支;批处理模式不可使用此方式

选择“返回设定内容”或“执行异常流程”后,节点会增加只读的 isSuccesserrorBody,供后续节点判断是否成功并读取错误详情。当前版本不会因此强制把整个输出切换为 JSON;原有输出格式仍按节点配置执行。

流式执行一旦已经向下游发出内容,再次重试或改走异常分支可能造成重复或不完整结果,因此不能假设此时仍可安全重试。涉及计费、发消息、写数据库等有副作用的后续操作,应先确认大模型节点完整成功,再执行后续动作。

当前错误设置中没有旧文档所述的“备用模型”选择项。需要模型降级时,应通过明确的流程分支或上层运行策略实现,并验证不同模型的输出契约一致。

试运行检查清单

发布前至少核对以下内容:

  • 模型已选择,并具备当前配置所需的 Function Call、视觉或推理能力。
  • 每个输入参数都有合法名称和确定的数据来源。
  • 提示词中的变量名与输入定义一致,没有使用数组下标占位符。
  • 技能已发布、已授权,模型可见与固定参数的边界符合预期。
  • JSON 输出字段、类型和提示词约束一致,空值和非法输入不会破坏后续流程。
  • 超时、重试和异常处理不会造成有副作用的动作被重复执行。
  • 批处理先以小数据量运行,确认汇总结果、并发限制、耗时和费用。
  • 长输出验证是否完整,不能只依赖“支持续写”开关。

常见问题

为什么不能添加技能?

先检查所选模型是否支持 Function Call,再检查插件或工作流是否存在可用的已发布版本、工具是否启用,以及当前账号是否完成所需授权。知识库还需要确认资源权限和可用状态。

为什么不能添加图片或视频?

视觉输入项由模型能力决定。请换用支持图片或视频理解的模型,并把媒体配置在“视觉理解输入”区域,而不是普通文本输入。

为什么占位符没有报错,但模型也没收到数据?

缺失变量通常会被渲染为空。检查变量拼写、上游分支是否实际产出,以及是否使用了当前不支持的数组下标语法。

为什么模型输出看起来是 JSON,后续字段却取不到?

“看起来像 JSON 的文本”和经过解析的 JSON 对象不是一回事。请使用 JSON 输出格式,声明真实字段和类型,在提示词中约束只返回符合结构的 JSON,并检查试运行结果是否成功解析。

大模型技能和独立插件节点应该如何选择?

需要模型根据语义自主选择工具时使用技能;需要固定执行、固定顺序、明确参数映射和可预测错误处理时,使用独立节点。