●
大模型 API 调用:致远一号、Temperature 与 Top_p
OpenAI 兼容网关 · 温度改分布形状,Top_p 改候选范围
致远一号 · SJTU 校内 OpenAI 兼容网关
from
openai
import
OpenAI
client = OpenAI(
base_url=
"models.sjtu.edu.cn"
api_key=
"your_key"
)
client.chat.completions.create(
model=
"deepseek-chat"
temperature=
0.7
, top_p=
0.9
)
deepseek-chat
非思考
deepseek-reasoner
推理
qwen3vl
看图
按 token 计价 · 输出更贵
同一句开头「天空是…」,下一个词的概率分布
Temperature 改「分布形状」
T = 0.1 · 尖锐
→ 「蓝色的」 事实陈述
T = 0.9 · 平坦
→ 「燃烧的油画」 文学创作
Top_p 改「候选范围」(核采样:取累积概率≥p 的最小词集)
p = 0.5 · 候选集小
候选集 2 词
→「小型哺乳动物」集中精准
p = 0.9 · 候选集大
候选集 5 词
→「眼里藏着星河」发散有个性
综合任务:Gradio + YOLO + LLM 智能视觉描述系统
Gradio
上传图片
YOLO 目标检测
cat .85 / dog .63
喂给 LLM
deepseek / qwen3vl
自然语言场景描述
「有一只猫和两只狗…」
▶ 重播