Skip to content

Latest commit

 

History

History
15 lines (9 loc) · 749 Bytes

File metadata and controls

15 lines (9 loc) · 749 Bytes

24. AI

大模型聊天中有哪些配置,他们的作用

temperature:较高的温度生成的内容随机性更大,较低的温度会使大模型选择最可能的单词

top_p: 模型从累计概率大于或等于“p”的最小集合中随机选择一个

repetition_penalty: 重复惩罚

大模型中有哪几种role,他们的区别

  1. system : 用于设定模型的行为规范、背景或任务指令,由开发者或系统设定,用户不可见,内容通常是对模型的隐性提示,如角色设定,回答格式等
  2. user:真实用户的输入,即用户向模型提出的问题或指令
  3. assistant:模型自身的回复,在多轮对话中起到记录历史响应,维持上下文连贯性的作用