思考与输出
理解思考用量、输出上限、流式内容,以及没有正文时如何排查。
先按任务选择思考等级,再设置输出上限。需要逐步显示回答时,开启流式输出。
为思考和正文留出空间
| 协议 | 输出上限参数 |
|---|---|
| Responses | max_output_tokens |
| Chat Completions | max_completion_tokens,也接受 max_tokens |
| Anthropic Messages | 必须传入正整数 max_tokens |
{
"model": "auto",
"input": "解释这段代码的边界条件。",
"reasoning": { "effort": "medium" },
"max_output_tokens": 8192
}输出上限不是预付的 token 数。思考也会占用生成预算;上限过小可能在正文完成前终止。各模型最大输出与上下文窗口见模型与价格。
Messages 的思考设置见API 怎么设置。总输出长度通过 max_tokens 控制。
接收流式内容
设置 stream: true 后,持续接收文本片段并显示。读取到完成或失败事件后,再结束本次请求。
| 协议 | 正文 | 思考内容 |
|---|---|---|
| Responses | response.output_text.delta | response.reasoning_summary_text.delta |
| Chat Completions | choices[0].delta.content | choices[0].delta.reasoning_content |
| Anthropic Messages | text_delta | thinking_delta |
正文为空或提前结束
确认已读取到响应结束,并检查错误信息。如果回答因输出上限而停止,可增加上限后重试;复杂问题也可以拆开提问。
消耗怎样计算
思考 token 已包含在输出用量中,无需再次相加。提高思考等级可能增加用量;流式与非流式的单价相同。费用按最终 usage 计算,详见消耗说明。
Fast 模式通过模型 ID 单独选择,不由思考等级或流式设置开启。
售后群 1055897442