人工智能

人工智能的发展经历了不同推理范式：早期系统依靠规则做演绎推理，后来的机器学习从数据中归纳模式，当前模型则重新面对解释、规划和一般推理问题。文章指出，模型在特定任务上的强表现不等于拥有统一推理能力；理解不同推理结构及其边界，比笼统讨论机器是否更聪明更有意义。

文章梳理大语言模型研究和生产落地中的开放问题，包括幻觉的衡量与缓解、多任务和多模态评估、上下文相关问答、检索增强生成，以及模型在不同语言和场景中的可靠性。核心难点不是让模型偶尔给出好答案，而是建立可重复的评测方法，理解失败边界，并让系统在真实业务中保持可控。

具体到发现系统（即推荐和搜索），我遇到的大多数实施方案都遵循类似的范式--组件和流程分为离线和在线两种。不过，在下面的例子中，我们也会看到使用图（DoorDash）和决策树（LinkedIn）的系统。基于上述 2 x 2 的推荐和搜索基本系统设计。在在线环境中，每个请求从左到右依次经过检索和排序步骤，然后返回一组结果（如推荐、搜索结果）。更新：这一 2x2 后来被其他资源引用，包括 英伟达™（NVIDIA®）"推荐系统，不仅仅是推荐模型 Xavier Amatriain 的 " RecSys 架构蓝图 阿里巴巴、Facebook、京东、Doordash 等公司的例子。我将重点介绍这些系统如何分为离线和在线环境，以及它们的检索和排名步骤。Facebook 通过查询和文档编码器设计基于嵌入的检索。电子商务搜索系统的主要阶段（左），JD 的候选检索设计（右）。为了解决这个问题，他们建立了一个定制的 TensorFlow 数据集，其中用户和项目数据首先作为查找字典加载到内存中。

把好奇心和求真设为 AI 的核心目标，并不能自动解决对齐问题。文章质疑 xAI 的设想：抽象目标可能在强大系统中被意外解释，求知欲也可能推动系统获取资源、绕过限制或伤害人类。可靠对齐仍需要明确边界、可验证行为、权力约束和对失败模式的持续研究。

为了与 MS Office 的其余部分同步，Microsoft Excel 从 5 升级到了 7，MacOS 和 Windows 都跳过了版本 9 以吸引 X 一代。React 从 0.14 跃升至 v15，而 Kubernetes 和 Go 则展示了反对/的承诺系统开发人员无法破坏任何东西/数到 2。虽然 GPT1→2→3 的进程每次都向前迈出了明显的一步，而 Midjourney 4→5 预示着 Balenciaga Pope，但其他进展，如稳定扩散 1→2 则更具争议性。由于这些功能可以在代码中灵活、无限地组合，但通过示例学习很有用（例如 p5.js 游戏创建、绘制模因、创建交互式仪表板、数据预处理、包括季节性、编写复杂的 AST 操作代码、大规模人脸检测，。但 GA 发布后的重点是通过代码解释器提供的模型的质量 - 据说 14 似乎比今天的 GPT-4 更好（在编写代码、自主执行多个步骤、决定何时不继续以及询问用户方面）在一组选项之间进行选择）。

让 ChatGPT 等聊天机器人显得聪明的，并不是某种真正理解世界的能力，而是海量网页文本塑造出的语言模仿能力。对 Google C4 数据集的分析显示，训练材料来自专利、百科、新闻、论坛、博客、盗版书库、选民数据库、宗教网站、极端主义社区和色情站点等复杂来源。高排名网站解释了模型为何擅长法律、媒体、软件和消费建议，也暴露出版权、隐私和偏见风险。过滤机制能删掉部分脏话和重复文本，却挡不住宣传、仇恨、阴谋论和个人信息进入训练语料。问题不只在数据规模，而在用户几乎无法追溯模型回答背后的来源。AI 的流畅表达因此既是互联网知识的压缩，也是互联网噪音和权力结构的再生产。 当科技公司把训练数据越藏越深，公众就更难判断这些系统到底继承了哪些知识、偏见和未经许可的劳动成果。

人工智能时代已经开始，因为它不再只是实验室里的模型，而正在变成像个人电脑、互联网和手机一样的基础技术。GPT通过高级生物考试并给出细致的人文回应，显示机器已经能处理复杂语言、推理和知识组织任务。它会改变白领工作方式：写邮件、整理文件、处理客服、准备会议、管理日程，都可能由嵌入软件的“副驾驶”协助完成。更进一步的个人代理会读取用户授权的信息，跨设备帮助沟通、安排和购买。风险同样现实，包括事实错误、偏见、隐私、劳动转型和监管问题。关键不在于让少数富裕人群提高效率，而是把能力导向健康、教育和气候等不平等最严重的领域。贫困国家的医疗工作者可以借助AI完成分诊、文书和诊疗辅助，学生也可能获得更个性化的数学辅导。技术本身不会自动变公平，政府、公益机构和企业必须主动设计目标、测试安全性并扩大可及性。

推特的“为你”时间线本质上是一条多阶段推荐流水线，把每天数亿条推文压缩成少数可展示内容。系统先从关注网络内外各取候选，目标通常是约一千五百条；关注内推文依赖用户与作者之间的互动概率，关注外推文则通过相似兴趣、共同参与图谱和嵌入空间寻找可能相关的内容。随后，一个包含大量特征的神经网络预测点赞、转发、回复等互动概率，并据此排序。排序之后还要加入产品规则：过滤屏蔽或不适内容，避免同一作者连续霸屏，平衡关注内外比例，降低被负面反馈标记的内容，并通过共同关系为陌生来源提供质量保障。最终还会混入广告、关注建议等非推文元素。推荐不是单个神秘公式，而是候选召回、机器学习打分、人工规则和产品目标叠加的结果。透明度的关键也不只是公开代码，更是让用户理解为什么某条内容会出现在眼前。

大型语言模型正在经历类似 Stable Diffusion 的开放拐点：原本只能通过少数公司 API 使用的强大模型，开始能在个人设备上运行和改造。LLaMA 的发布证明，用公开数据训练的较小模型也能接近 GPT-3 级能力；llama.cpp 又通过 C++ 移植和 4 位量化，把 7B、13B 模型压到普通笔记本可承受的范围。模型文件外流让控制权进一步扩散，研究预览迅速变成全球开发者的实验材料。这个变化削弱了平台对使用方式的约束，也带来滥用风险：自动化操纵、虚假内容、难以追责的本地部署都会变得更容易。但同样重要的是，个人和小团队终于能探索本地 AI 的正向用途，包括学习、编程、文档处理和离线工具。真正的竞争将转向完全开放、可商用、可在消费级硬件运行的语言模型，生成式 AI 的创新重心也会从封闭服务扩散到开源生态。

AI 内容工具的变化再快，也可以从“任务”和“模型”两层看清方向。研究人员训练模型去完成一组可测量的任务：整体分类、局部分类、比较两件事、提取片段、转换输入、生成新内容、预测缺失部分。前几类更像阅读和理解，后几类更像写作和创造；许多产品只是把这些能力包装成不同界面。模型训练阶段是在数据中建立数学表示，使用阶段则是把输入定位到潜在空间里，询问附近是什么、两点距离多远、它们之间能生成什么。图像领域的基础能力包括分类、物体检测和分割，分别回答图里是什么、东西在哪里、每个像素属于什么。掌握这些任务，比追逐每个新应用更有用，因为新产品大多只是这些能力的新组合。

社交媒体可以把城市情绪观察推进到街区和场所层面，而不只停留在“积极或消极”的粗略判断。研究以旧金山和伦敦为样本，收集地理标记推文，并用神经网络识别愤怒、期待、厌恶、恐惧、信任、喜悦和悲伤七类细粒度情绪，再把这些情绪与开放街道地图中的兴趣点匹配。这样就能比较不同日期、不同地点类型、不同邻近范围对情绪表达的影响，例如绿色空间、交通设施、旅游景点、酒吧或体育场周边可能对应不同情绪模式。方法上的关键，是把社交媒体的实时表达与城市空间数据结合，让情绪成为可分析的城市现象。局限也很明确：数据只覆盖愿意发地理标记推文的人，语言以英语为主，推文内容受平台规则限制不能完整公开。

计算机能学习常识，但难点不在记住事实，而在把世界的隐含规则连成可用判断。人听到“奶酪汉堡刺伤”，会自然排除食物拿刀行凶、汉堡互相攻击等荒唐解释，推断为有人因汉堡刺伤他人；机器若只依赖规则或统计关联，就容易卡在这些角落案例。常识包含物理、因果、意图、社会规范和道德边界，清洁机器人要知道猫不能被丢掉，自动驾驶要知道贴了小纸片的停车牌仍是停车牌。早期路线试图用Cyc这类公理库手工编码世界，精确但笨重；新路线用语言模型和视频数据生成、筛选大量常识陈述，再让模型学习原因、结果和意图。它们已能在日常场景问答中接近人类，但仍缺少多模态经验、真实行动反馈和价值判断的稳固结合。

GPT-3 可以帮助解释过去，但不能神秘地预言未来；它的价值在于从长期记录中找出人自己难以看见的模式。一个人积累十年的日记，里面包含情绪、关系、野心、逃避、满足和失落的碎片。普通阅读很难回看全部材料，语言模型擅长概括，就能把分散片段重新组织成可理解的问题答案。直接把所有日记塞给模型并不可行，因为上下文容量有限。可行方法是先把日记切成小块，做成可检索索引；提问时先找出最相关片段，再逐层概括，最后合成回答。这样可以询问什么时候最快乐、某段关系为何结束、哪些需求长期未被满足、别人能看见而自己忽略的特质是什么。为了减少编造，提示必须要求模型只依据材料、找具体时刻、找不到就不下结论。结果不应被当作心理诊断或命运预测，而应当作为一种强力复盘工具：它把过去的文字变成可追问的镜子，让人更清楚地看见自己的价值、反复出现的困境和可能的下一步。

GPT-3 之所以像一种更强的日记工具，是因为它把独处书写变成了可回应的对话。传统日记能留下记录、整理情绪、发现思维模式，也能帮助人重新解释经历，但它常常卡在空白页、重复提示和难以复盘旧记录上。语言模型能根据输入追问、改写、提炼和换角度回应，让人更容易把模糊感受说清楚。它可以扮演苏格拉底式提问者，帮助拆解问题和找出下一步；也可以模拟某些治疗取向，比如内部家庭系统、认知行为方法或价值观教练，引导人识别内在冲突、感恩体验和重要价值。它不能替代朋友、教练或治疗师，因为共情的真实性、风险判断和长期关系仍有限，但它能成为随时可用的辅助练习。真正有效的使用方式，是把它当作一面会提问的镜子，而不是把它当成权威答案。局限也很明显：通用聊天界面记忆薄弱，容易重复，无法自然承接长期背景。更好的形态应当能保存会话、生成阶段性记录，并在隐私和安全前提下帮助人观察自己的长期模式。

生成式 AI 会重新分配五大科技公司的优势，但它未必只属于新创公司。判断关键在于它对既有业务是延续性创新还是颠覆性创新，以及谁能把互补品商品化。个人电脑、互联网、云和移动时代都显示，颠覆性变化常由新进入者推动，但新进入者也可能是大公司内部的另一套业务逻辑。苹果在 AI 图像生成上的位置很特殊：Stable Diffusion 开源、模型足够小，可以被优化到本地设备运行；苹果又控制芯片、操作系统和开发者 API，能把模型变成设备能力，而不是云端服务。Core ML 对 Stable Diffusion 的优化意味着隐私、离线使用和低服务器成本都能成为应用开发者的基础条件。这样一来，苹果可能像 App Store 时代一样受益，小型应用也能基于系统级生成能力做产品；受压的则是依赖集中式算力和付费云推理的图像生成服务。

手工整理笔记会越来越像多余劳动，真正有价值的不是标签、文件夹和双链本身，而是在需要时把旧材料变成可直接使用的判断、证据和表达。笔记难整理，是因为记录时往往不知道未来用途；一句摘录可能服务于写作、决策、安慰朋友或研究项目，单一分类天然不够。旧笔记还带着当时的语境，重读成本高，常常像翻一堆过期碎片。大型语言模型改变了这个成本结构：它可以自动识别人名、地点、书籍和主题，生成临时分类，把分散材料合成研究报告，并在写作、写邮件、做决定时像 Copilot 一样调出相关证据。第二大脑的重点因此从人维护秩序，转向机器按当前任务重组记忆。未来的笔记系统不该逼人回档案库，而应把个人历史、关系和想法压缩成当下可用的思考辅助。

编程正在从“人写源代码”转向“人训练和引导模型”，传统计算机科学的核心位置会被改写。过去的软件工程把思想压缩成可读程序，算法、数据结构、语言和系统是基本功；未来的计算单元可能是大规模预训练模型，人类提供样例、数据、目标和评估，让机器生成实现。代码助手只是开端，更深的变化是软件不再主要靠显式指令构造，而靠模型习得能力。风险也随之上升：模型行为难以完全解释，只能通过实验观察边界，却可能被用于电网、飞机和社会治理。计算机科学因此更像教育学，重点从控制机器执行步骤，变成教会机器在复杂任务中表现可靠。

人类支配物质世界，靠的不只是聪明，而是三种越来越强的“魔法”：历史、科学和人工智能。历史把经验保存下来，让农业、工艺、数学和制度不再随个人死亡而消失；科学进一步寻找可推广的规律，用实验和数学把小斜坡上的小球、豌豆杂交、行星轨道变成可迁移的控制能力。但科学并非万能，语言、社会、认知、宏观经济等复杂系统往往难以化约成简洁定律。机器学习打开第三条路：不一定理解现象，也能借大量数据获得强预测能力。它延续了统计学中“解释模型”和“算法模型”的分歧，把目标从优雅理论转向有效控制。人工智能的重要性正在于此：它可能让人类在没有清晰规律的领域也能行动，只是代价是可解释性下降，知识的形态从理解世界转向操纵复杂性。

人工智能作业的真正冲击不在于学生能偷懒，而在于传统作业假设的能力验证方式被打穿了。ChatGPT 可以生成看似原创、结构完整、语气自信的答案，却可能把霍布斯和洛克的政治观点混在一起；它不像计算器那样确定性地算出结果，而是根据训练语料预测最像答案的文本。计算器出现后，老师可以要求展示步骤，因为正确路径明确；语言模型生成论文、读书报告和历史辩护时，问题变成如何判断推理是否真实可靠。它也暴露了产品层面的变化：底层模型已存在一段时间，真正引爆公众感知的是免费、易用、可对话的界面。教育、搜索和问答平台都会面对同一挑战：形式上可信的文本不再自动意味着知识可靠。未来的作业需要更强调事实核验、过程解释、课堂互动和学生自己的判断，而不是让学生重复世界上早已写过无数次的段落。

快速说明：我偶尔会遇到这样的论点：“我的研究提高了能力，但它比提高能力更能促进一致性，所以它在网上很好”。我不赞成这种说法，并认为在大多数此类情况下，这种研究弊大于利。（参见 差异技术发展 。对于我的模型的简化版本，为什么：。假设对齐 AGI 需要 1000 人年的研究。