目标网站网页截图，页面可能随时间更新。
- 代码许可：other
- 作者：huggingface-projects
- 分类：AI 助手
- 名称：Llama 2 13b Chat
- 来源：Hugging Face Spaces
Llama 2 13b Chat 面向需要进行自然语言对话和文本生成的场景，提供聊天交互界面，并允许通过系统提示词及生成参数对输出过程进行调整。使用时可以先明确任务目标，再根据回答的稳定性、变化程度和长度需求配置参数。
应用定位
该应用展示的是 Llama-2-13b-chat-hf 模型的对话使用方式，界面以聊天交互为核心。用户可以在输入框中提交问题或任务，并通过系统提示词设定对话背景、角色要求或回答方向。
它主要用于什么？
它主要用于对话交互和文本生成，可围绕明确的任务要求与模型进行多轮交流。
应用采用什么交互形式？
应用提供聊天界面、文本输入框和对话展示区域。
可调整的生成设置
界面公开了多项生成控制项，包括最大新生成令牌数、Temperature、Top-p、Top-k 和重复惩罚。最大新生成令牌数可用于限制单次回答的生成长度；Temperature、Top-p 和 Top-k 用于控制生成选择的随机性与范围；重复惩罚则可用于调节重复内容倾向。
- 最大新生成令牌数：控制回答长度上限
- Temperature：调节生成过程的随机程度
- Top-p：按累计概率范围筛选候选内容
- Top-k：限制候选内容数量
- 重复惩罚：调节重复文本的倾向
怎样设置生成参数？
可以先使用较保守的参数完成任务，再根据回答长度、变化程度或重复情况逐项调整，避免同时改变过多设置而难以判断影响。
参数是否决定回答内容？
参数会影响文本生成过程，但具体回答仍取决于输入内容、系统提示词和当前配置。
适用任务与使用思路
它适合用于需要自然语言交流的任务，例如提出问题、要求生成一段文字、让模型按照指定背景进行回答，或比较不同生成设置下的文本差异。使用时应把目标、上下文、输出形式和限制条件写清楚；如果任务重视一致性，可以减少不必要的随机变化，如果需要更多表达变化，则可在可接受范围内调整采样设置。
- 先在系统提示词中写明任务背景、回答身份和必要限制。
- 在输入框中提交具体问题，并说明期望的内容形式。
- 根据回答长度与表达效果调整最大新生成令牌数及采样参数。
- 对重要内容进行人工检查，再决定是否继续追问或修改提示词。
如何让回答更符合任务要求？
可以把目标、上下文、格式和限制条件写得更具体，并在需要时通过系统提示词统一说明回答方向。
什么时候需要调整参数？
当回答过短、变化过大、候选范围需要收窄或出现较多重复时，可以针对对应参数进行调整。
常见问题
该应用的公开组件包括 ChatInterface、Markdown、Chatbot、系统提示词输入框以及多项生成参数控件。它更适合作为对话模型交互和生成设置的使用入口，具体任务仍应结合输入要求进行判断。
可以使用系统提示词吗？
可以，界面提供了名为 System prompt 的输入项，用于补充对话背景和行为要求。
可以控制回答长度吗？
可以，界面提供 Max new tokens 设置，用于调整单次生成内容的长度上限。
可以降低重复内容吗？
可以尝试调整 Repetition penalty，并结合输入提示和其他生成参数观察结果。