提示设计与提示工程 (Prompting and prompt engineering)
Prompting:向模型输入文本(称为prompt),以生成响应的文本(称为completion)。

Inference:生成文本的过程称为inference。
Context Window:模型可用于参考的整个输入文本或内存称为context window。
Prompt Engineering:多次修正prompt的语言或格式,以使模型按期望行为。
In-Context Learning:在prompt中包含任务示例,帮助模型理解和执行任务。

Zero-Shot Inference:不包含示例,直接让模型根据输入的指令和上下文执行任务。

One-Shot Inference:在prompt中包含一个示例,以提高小型模型的性能。

Few-Shot Inference:包含多个示例,尤其是对小型模型更有效,有助于模型理解复杂任务。

模型规模与任务性能:大型模型(如最新版本的GPT)在执行多种任务上表现更好,尤其擅长zero-shot inference;小型模型则通常仅适用于与其训练任务相似的任务。
Fine-Tuning:如果模型在包含多个示例时仍表现不佳,可以通过fine-tuning(使用新数据对模型进行额外训练)来提升其性能。