temperature:较高的温度生成的内容随机性更大,较低的温度会使大模型选择最可能的单词
top_p: 模型从累计概率大于或等于“p”的最小集合中随机选择一个
repetition_penalty: 重复惩罚
- system : 用于设定模型的行为规范、背景或任务指令,由开发者或系统设定,用户不可见,内容通常是对模型的隐性提示,如角色设定,回答格式等
- user:真实用户的输入,即用户向模型提出的问题或指令
- assistant:模型自身的回复,在多轮对话中起到记录历史响应,维持上下文连贯性的作用