AI 常见概念

AI 是 Artificial Intelligence（人工智能）的缩写。它包含许多不同做法，可以用来识别人脸、推荐歌曲或生成文字。

这些任务都可以用到 AI，但完成它们的模型和处理方式可能不同。

• 会完成一项任务，不代表能完成所有任务。
• 擅长识别人脸的系统未必会写邮件；能流畅回答问题的系统也可能出错。
• 看到“AI 功能”时，先看它具体处理什么输入、能给出什么结果，再判断是否适合你的需求。

LLM 是 Large Language Model（大语言模型）的缩写。训练时，它从大量文字等样本中学习语言规律；使用时，它根据你提供的内容生成回答。

例如，你交给它会议速记，它能把零散内容整理成摘要和待办。供你上传文件、发送消息的聊天界面，则由应用提供。

整理结果仍需对照原始记录，确认时间、负责人和事项没有遗漏或写错。

• 模型负责处理内容，应用负责组织聊天、文件和工具。
• 同一个模型接入不同应用，可用功能也可能不同。
• 生成文字并不自动包含联网查证；即使回答连贯，日期、数字和事实仍可能有误，重要内容需要核对。

训练时，系统给模型看样本，让它尝试预测或完成任务，再根据错误和反馈调整模型内部的数值。这些数值叫参数。

反复调整后，模型逐渐学会语言和任务中的规律，之后才能用来处理你提出的新问题。

训练完成后，学到的参数用于处理新的输入。

• 训练数据和训练方式会影响能力与偏差。
• 某项知识出现在训练资料里，不代表模型之后能准确复述它，也不代表能查询资料的最新版本。

你发出“帮我缩短这封邮件”，模型用已经训练好的能力读取原文，逐步生成新的措辞。这次从接收材料到生成回答的运行，就叫推理运行。

它是在使用已有能力处理你的要求，通常不会在这时重新训练。

从输入到输出的这次运行，就是推理运行。

• 这里的“推理”是机器学习术语，指模型根据输入计算并生成输出；它描述的是运行过程，不能据此认定模型进行了逻辑推理。
• 生成速度还会受模型、输入长度、输出长度和运行环境影响。

模型内部有大量参与计算的数值，训练会调整它们。这些数值共同影响模型怎样处理输入、生成什么回答。

可以把它们类比为设备里的小旋钮：训练在调整旋钮，使用时按调好的设置工作。真实参数是数值，并不是逐条保存的知识。

• 参数量是规模指标，不是统一的能力分数。
• 模型结构、训练质量和任务类型都会影响表现；有些模型每次只使用部分参数。

模型处理文字前，会先把文字拆成小片段，再逐步生成新的片段。这些片段叫 Token，负责拆分的程序叫分词器。

一个片段可能是一个字、词的一部分、标点或空格。不同模型的拆法可能不同，不能把一个 Token 固定当成一个字。

• 上下文上限与用量统计经常使用 Token。
• 要估算实际用量，应使用对应模型的分词方式；不要把一字一个 Token 当成固定规则。

提示词提供这次任务的目标、材料和要求。

模型会结合这些内容生成结果；给出明确的对象、格式和限制，可以减少它需要自行猜测的部分。

• 提示词是任务输入，不是能力保证。
• 要求模型核对事实，并不会自动赋予联网能力；要完成核对，还需要可靠材料或查询工具。

你提问后，应用会把问题、相关聊天记录，以及读到的文件或查询结果一起交给模型。这次交过去的材料，就是本轮上下文。

场景：查询周三是否有空虚构示例

• 界面里保存着，不等于这一轮已带入模型。
• 窗口更大能装更多材料，但不保证每处细节都能被准确使用。

例如，你告诉助手“邮件尽量写短些”，应用可以把这个偏好保存下来。之后写邮件时，应用再把偏好和这次任务一起交给模型。

所以，记忆是否影响这次回答，既取决于有没有保存，也取决于这次有没有取出来使用。

• 记忆不等于完整的聊天录像，也不等于重新训练模型。
• 保存的偏好可能过时，是否能查看、修改或删除，需要看应用的实现。

你上传白板照片，并写下“整理上面的待办”，支持图片和文字的模型就能结合这两种材料回答。

“模态”指文字、图片、声音等内容形式。能看图片和能生成图片是不同能力，使用前要分别确认。

字迹模糊时可能漏读或误读，需要对照原图检查。

• 能接收图片不代表能准确辨认所有细节，能听音频也不代表能生成音频。
• 文件大小、清晰度、语言和应用支持都会影响使用效果。

给几个人安排会议，需要先读懂每个人有空的时段，再排除冲突，找到共同时间。这类需要比较条件、尝试解法的过程，就是这里说的思考与推理。

有些模型会花更多计算来做这类分析。前面的 Inference 指运行模型得到输出；这里的 Reasoning 更具体地指分析问题的过程。

约束多时，逐步检查通常更有帮助。

• 更多思考不保证前提正确。
• 材料有误、约束遗漏或中间判断错误，都可能导致错误结论；应用展示的解释也未必是完整内部过程。

生成文字时，模型往往有多个后续片段可选。温度较低时，更容易选中原本可能性较高的片段；温度较高时，其他片段也更有机会被选中。

因此，同一条广告语反复生成时，较高温度通常会带来更多不同写法。它改变的是选择的随机程度，不负责判断事实真假。

是否能调节温度，取决于模型和应用；温度不控制事实正确率。

• 温度控制的是随机程度，不是事实正确率。
• 低温度也可能稳定地重复错误，而且仅调低温度并不能保证每次输出完全一致。

会议记录没有写截止日，模型却补上“周五前完成”，这就是一个没有依据的细节。

模型会生成在当前内容中看起来合适的说法，但不会自动查证每句话。因此，语气确定、句子完整，也可能把没发生的事写成事实。

句子完整、语气确定，都不能证明这些细节有依据。

• 核对时应查看原始材料，而不是只让模型再次确认。
• 资料没有包含答案时，让它明确说明缺失，也要检查它是否真的遵守了这一要求。

假设你希望客服答复都采用某种格式，可以准备一批客户问题和合格回复，让已有模型继续用这些样本训练。

这种针对某类任务的继续训练叫微调。它会调整模型内部的参数，之后再用新问题检查模型是否更符合要求。

• 训练样本要能代表你希望模型完成的任务，还要用新例子检查效果。
• 经常更新的手册或制度，通常更适合在回答前查找原文，再交给模型参考。

你问“这笔费用能报销吗”，应用先在公司的报销手册中找相关条款，再把条款和问题一起交给模型。模型参考条款，组织成你能读懂的回答。

这套“先找资料，再据此回答”的做法，就是检索增强生成。资料由应用查找，答案由模型生成，两步都可能出错。

制度更新后，资料库也需要同步更新。

• 资料存在不代表能被检索到，检索到也不保证解释准确。
• 可以检查引用段落是否支持结论，并留意版本、日期与适用范围。

可以把 API 理解成软件之间的“办事窗口”：它说明能做什么、要提供哪些材料，以及会拿回什么结果。

接入 AI 时，软件按这些约定把内容和要求交给模型，再把结果显示给你。你可以留在原来的软件里完成这件事。

这几步由软件自动完成，你不必来回复制、粘贴。

• 软件通常需要先获得使用许可；也可能有次数限制、需要等待，或遇到处理失败。
• AI 聊天应用里能用的功能，不一定都能放进其他软件里使用。

• 工作流：一套预设流程，例如“每天读取资讯 → 发送邮件”。
• n8n：搭建和运行工作流的软件，用方块和连线表示步骤。
• Agent：根据目标和结果选择下一步；也可以调用工作流，完成其中一段任务。

• 工作流可以独立运行，不必依附 Agent，也不一定需要 AI。
• 步骤和分支由人提前设定；遇到规则没覆盖的情况，仍需额外处理。

Agent 中，LLM（语言模型）负责分析与决策，工具负责实际操作。

你对 Agent 说：“给费用表加一列合计。”

• 能做什么，取决于接入的工具和授权范围。
• 是否完成要看真实文件；结果不符时，可以继续修正。

你让助手创建日历事件，模型先提出操作请求，写明时间、标题等信息。应用检查是否有权修改日历，再调用日历工具创建事件，把结果交回模型。

真正修改日历的是工具。模型仅仅回复“已安排”，不能证明事件已经创建。

• 读取、修改和发送是不同的权限。
• 工具执行也可能失败；任务是否完成，要检查实际返回结果和目标系统的状态。

假设你想让 Agent 查询日历，日历一侧需要提供查询功能，Agent 所在的应用也要能连接并使用它。MCP 约定了双方怎样介绍功能、发送请求和交回结果，减少每接一种工具都另写一套连接方式的工作。

前提：已连接日历，并允许 Agent 查看。

联网搜索用来查网页；MCP 用来连接工具；RAG 是查到资料后，再让模型参考资料回答。一次任务可以同时用到三者。