01 / 提示词
先明确角色、任务与输出格式
把背景信息、需要完成的任务、约束条件和输出结构分开表达。复杂任务可以提供一个简短示例,减少模型对格式的猜测。
适用于大多数文本生成模型,具体参数范围仍需参照模型与推理框架说明。
把背景信息、需要完成的任务、约束条件和输出结构分开表达。复杂任务可以提供一个简短示例,减少模型对格式的猜测。
摘要、抽取和结构化输出更看重一致性,创意写作则可以适当提高随机性。一次只调整一个参数,记录对比结果。
保留与当前问题直接相关的资料,删除重复内容,并把关键要求放在清晰位置。必要时先检索,再把少量高相关片段交给模型。
建立覆盖真实任务的小型测试集,记录正确性、格式遵从、速度与资源占用。更换模型或参数后复用同一组样例。
清楚描述输入与输出,比堆叠修饰词更有效。
角色:你是一名技术文档编辑。 任务:根据提供的模型说明,整理一份部署前检查清单。 要求: 1. 仅使用给定信息; 2. 按硬件、软件、许可三个部分组织; 3. 每项不超过两句话; 4. 不确定的信息标记为“待确认”。 输出:使用 Markdown 列表。
大模型生成通常包含随机采样。降低 temperature、固定随机种子(如果框架支持)并明确输出格式,可以提高可重复性,但无法保证所有运行环境完全一致。
不一定。过多无关信息会分散注意力并增加推理成本。先做内容筛选与去重,通常比直接填满上下文更有效。
效果变化取决于模型、量化方法、位宽和任务。建议在自己的测试集上比较原始版本与候选量化版本,而不是只依赖通用评测。