当前位置：首页 > news >正文

LLM的应用

news 2025/5/24 11:12:10

LLM的应用方式

什么是提示词工程？

提示词工程，也称为 Prompt Engineering，是一种致力于优化和提高大型语言模型（LLM）输出质量的技术和方法。它主要关注如何设计、构造和优化提示词（Prompt），以引导 LLM 生成更准确、更有用、更符合用户需求的文本。可以说，掌握了提示词工程就掌握了打开 LLM 知识大门的钥匙。

提示词工程有哪些小技巧？

编写清晰而具体的提示：这是确保 LLM 能够准确理解用户需求并作出相应回应的基础。清晰的提示应该明确表达用户想要 LLM 做什么，提供足够的上下文信息，并尽可能具体地描述期望的输出结果。一个小 tips：在和 LLM 交互时，要尽量的明确【做什么】，并且尽量避免【不要做】什么，这样能有助于减少 LLM 的幻觉。

给模型思考的时间：尽管 LLM 具有强大的处理能力，但在处理复杂任务时，给予模型一定的时间来思考和生成更准确的回应往往是有益的。我们通过描述，生成结果的过程，即通过指定完成任务所需的步骤来提高 LLM 输出结果的可用性。

控制输出结果的长度、格式和内容：根据用户需求，指定输出的词数、字符数、句子数等，以及提取特定的细节，格式化输出为 HTML 等。另外，可以让 LLM 按照指定的格式进行输出。

通过给 LLM 模型参考，解决 LLM 的幻觉，以提高输出结果的正确性：适当的给模型一些参考，也就是通常所属的 one-shot 或者 few-shots，让 LLM 知道输入和输出之间的对应关系。

让 LLM 进行自检自查：由于各种原因，特别是在和 LLM 交互的步骤比较多，提示词比较长的情况下 LLM 的回答有可能是错误的，这时一个可选的选项是在适当的步骤让 LLM 进行自查，自己确定下给出的回答是否正确，是否满足了我们的诉求。类似的方法还有让 LLM 对自己的回答评分，直到回答的结果 LLM 自己认为可以达到满意的分数为止。

设定 LLM 的角色：另外一个非常适用的方法是为 LLM 设定角色，一般来说，在设定角色时可以设定 LLM 的专业领域，回答问题的风格、语气、模版、格式等。一个设定好的格式能让 LLM 回答的内容快速的作为后续操作的输入。

尊重 LLM：要尊重 LLM，要把 LLM 想象成一个和你进行合作的工作伙伴，我们平时怎么和一起协作的伙伴怎么沟通交流，就要怎么和 LLM 一起沟通，好好说话，把话讲明白。尊重也是生产力。

使用框架与 LLM 进行交互：

1.ICIO 框架：