大模型 API 调用:致远一号、Temperature 与 Top_p OpenAI 兼容网关 · 温度改分布形状,Top_p 改候选范围
致远一号 · SJTU 校内 OpenAI 兼容网关 from openai import OpenAI client = OpenAI( base_url="models.sjtu.edu.cn" api_key="your_key" ) client.chat.completions.create( model="deepseek-chat" temperature=0.7, top_p=0.9 ) deepseek-chat 非思考 deepseek-reasoner 推理 qwen3vl 看图 按 token 计价 · 输出更贵 同一句开头「天空是…」,下一个词的概率分布 Temperature 改「分布形状」 T = 0.1 · 尖锐 → 「蓝色的」 事实陈述 T = 0.9 · 平坦 → 「燃烧的油画」 文学创作 Top_p 改「候选范围」(核采样:取累积概率≥p 的最小词集) p = 0.5 · 候选集小 候选集 2 词 →「小型哺乳动物」集中精准 p = 0.9 · 候选集大 候选集 5 词 →「眼里藏着星河」发散有个性 综合任务:Gradio + YOLO + LLM 智能视觉描述系统 Gradio 上传图片 YOLO 目标检测 cat .85 / dog .63 喂给 LLM deepseek / qwen3vl 自然语言场景描述 「有一只猫和两只狗…」