Artificial Intelligence Concepts
期末 70% · 期中 8% · 作业 5% · 个人 Project 17%。3 小时笔试。
连载中,随课程进度更新,目前到第 11 周 T07b(11-12),后面的讲次上完课再补。
复习资料与自测
非官方复习材料。自测保留英文题干,答案与解析逐题折叠;练习分值和用时不代表正式考试安排。
逐讲
L01a AI 是什么:三个同心圆,和两条争了几十年的路
从零讲清 AI、机器学习、深度学习谁包含谁,手写规则和从数据学习两条路线各卡在哪,以及 AI 史上那条在两条路之间来回摆的钟摆。
L01b 深度学习的「深」:很多层,而且每层都要拐个弯
从一个人工神经元讲起,算给你看为什么只叠线性层等于没叠,深度学习凭什么能自己学出特征,以及它为什么要等大数据来了才爆发。
L01c 机器学习:怎样算「在学」,又按什么分成三类
从 Samuel 的「不用显式编程」和 Mitchell 的 <T, P, E> 讲清机器学习的定义,再用两个问题把任何任务分进监督、无监督、强化三类。
L01d 监督学习:答案是数还是类别,以及一副通用骨架
从零讲清回归和分类怎么分、降雨概率为什么算分类,再用三个点亲手算一遍均方误差,走通「模型 → 损失 → 优化」这副所有监督学习共用的骨架。
L01e 没有标准答案时:k-means 自己分组,强化学习靠奖惩摸索
用六个点一帧一帧跑完 k-means,讲清它的分组为什么不是分类;再把强化学习的五个词摆进一个循环,说明奖励来得晚为什么是它最大的难点。
T01a Tutorial 1 上半:论文去哪找、什么样的能引、八个部分各装什么
期末 project 的检索 checklist:三个来源按阶段用,三个工具按问题分,再拆开论文八个部分,标出 Introduction 里最值钱的那一句。
T01b Tutorial 1 下半:四遍读法、四个问题,以及怎么从别人的缺口里长出自己的题
论文分几遍读、每遍读到哪就可以放弃,读完记哪四行,再从综述和子领域顶会论文里找出 project 的研究问题。
L02a-1 搜索问题:先把题目翻译成机器能找的路
从八数码讲起,把一个问题拆成状态、动作、代价和解,画成状态图和搜索树,再认识最笨的生成测试、Open / Close 循环,以及衡量搜索算法的四把尺子。
L02a-2 BFS:像水波一样一圈一圈往外找
从队列讲起,一帧一帧跑一遍广度优先搜索,再推出它为什么总能找到边数最少的路,以及为什么时间还能忍、内存忍不了。
L02a-3 DFS:一条路走到底,撞墙再回头
从栈讲起,用和 BFS 同一棵树一帧一帧跑一遍深度优先搜索,再看它为什么省内存、为什么会陷进去,最后把 BFS 和 DFS 摆在一起比怎么选。
L02b-1 启发式与爬山法:雾里只看脚下往高处走
为什么盲目搜索不够用、启发式拿什么换速度;用井字棋的对称性和 most wins 打分讲清启发函数,再一步步跑爬山法,看它卡在哪三种地形上。
L02b-2 最佳优先与 A*:把丢掉的路记回来,再把走过的路算进去
最佳优先把 Open 表加回爬山法,按 h 挑节点;八数码两个启发函数比准不准;f = g + h 和不高估条件让 A* 保证最短,最后手算一道带权最短路径题。
T02 Tutorial 2:BFS 与 DFS 手算,把访问顺序和解路径分开
Open/Close 怎么填,孩子按什么顺序取,以及去掉查重之后 DFS 为什么停不下来。
L03a-1 概率是什么:从抛硬币、掷骰子到三条公理
从集合讲起,弄清结果、事件、样本空间分别是什么,再看概率的频率定义、三条公理和随机变量。后面的条件概率和贝叶斯全建在这一页上。
L03a-2 条件概率:知道 F 发生了,E 的概率要怎么改
先补联合概率,再一帧一帧看条件概率怎样把样本空间从 S 缩小到 F,最后分清独立和互斥这对最容易混的概念。
L03a-3 贝叶斯公式:灵敏度 99% 的检验,阳性里只有 2% 真有病
从条件概率的定义出发,补上乘法公式和全概率公式,一步一步推出贝叶斯公式,再用十万人的人数树看懂基础率谬误。
L03a-4 链式法则与条件独立:用一张箭头图把联合概率剪小
链式法则把多变量的联合概率拆成一串条件概率,条件独立把这串条件剪短,贝叶斯信念网络把「谁和谁条件独立」画成一张图,再看三种连接方式各自什么时候通、什么时候断。
L03a-5 在信念网络上推理:联合、因果、诊断三种问法
拿课件那张四变量网络把三种问法各算一遍:联合概率按父节点连乘,因果推理顺着箭头补齐父节点,诊断推理逆着箭头先做因果推理再套贝叶斯公式。
T03 Tutorial 3:四份 PyTorch notebook,一套训练骨架
张量、autograd、nn.Module、训练循环——先把这四件事跑通,assignment 和 project 才动得了。
T03a Tutorial 3:爬山法、四皇后与 A* 手算,眼前最好不等于最后最好
四皇后怎么交换、贪心路线为什么只拿到 19、A* 发现终点后为什么还要继续,以及已关闭的节点为什么会被重新打开。
L03b-1 命题逻辑的语法与语义:把一句话写成符号,再用真值表一行一行算
从零讲命题、五个连接词、优先级、解释与真值表,最后把岛民 A 的一句话翻成式子,用四行真值表算出谁在说谎。
L03b-2 可满足、有效与等价:数真值表里有几行为真
从零讲可满足、不可满足、有效三类句子,用岛民另外两句话演示 3 个模型和 0 个模型,再用整列对比讲等价、逆否和转 CNF 要用的等价律。
L03b-3 前向链接:不再列真值表,从已知事实一路往前推
从零讲为什么放弃真值表、什么是 Horn 子句、前向链接怎么用 Agenda 一步步推出目标,用 R1–R7 知识库逐帧演示 R5 → R3 → R2 → R1。
L03b-4 后向链接:从目标倒着找,走过的路要记住
从零讲目标驱动的后向链接:递归四步、为什么 p.32 不能选 R4、怎么从事实一路返回,再和前向链接逐项对照。
L03b-5 归结法:只有一条规则,先转 CNF,再推出矛盾
从零讲归结规则、CNF 和四步转换、反证法的归结算法,最后用 Tom/John 题逐轮做完整归结树,推出空子句。
L04a-1 机器学习是什么:从一张七行表格学会看 x 和 y
从零讲机器学习:规则从数据里来;一行是一个样本,前几列是特征 x,最后一列是标签 y;再一格一格算一遍垃圾邮件的线性规则。
L04a-2 回归与分类:看 y 是一个数还是一个类别
从零讲监督学习的两种任务:y 是连续数值叫回归,y 是有限个类别叫分类;再用 x 和 y 读懂图像、检测、翻译、排序、推荐这些应用,以及不改参数的上下文学习。
L04a-3 无监督学习:没有答案时,从数据里找结构
从零讲无监督学习:把标签拿掉只剩 x,目标变成找结构;一步一步跑一遍 k-means 聚类,再看词向量怎样把词变成点、把关系变成方向,以及 t-SNE 怎样把高维数据压到平面上。
L04a-4 强化学习与 RLHF:数据靠自己试出来
从零讲强化学习:智能体在状态 s 下做动作 a,环境回给奖励 r 和新状态 s′,数据边试边攒;再看三种学习怎样按任务并列、按方法叠用,以及 RLHF 怎样把它们串进一个系统。
L04b-1 假设函数与代价函数:先学会给一条直线打分
从截距和斜率讲起,写出线性回归的假设函数,再用三个点一帧一帧算出代价函数 J,看清它为什么是一只碗。
L04b-2 梯度下降:沿着坡度一步步走到碗底
先补斜率、导数和偏导数,再一帧一帧手算梯度下降在三点例子上怎么移动,最后推出线性回归的两条更新式。
L04b-3 同时更新与学习率:两个参数怎么一起走,步子迈多大
在参数平面上逐帧对比同时更新和顺序更新,用三点例子手算三种学习率的走法,再看为什么线性回归不会卡在局部最低点。
L04b-4 过拟合与正则化:训练集上满分,为什么反而是坏信号
用三联图分清欠拟合、刚好和过拟合,再从零讲 L1/L2 正则化,用三点例子逐帧看 λ 怎样把碗底往 0 拉。
L04c-1 训练集、交叉验证集、测试集:先把误差量准,再挑模型
从误差函数 J 怎么读讲起,一步步看为什么训练误差不算数、数据为什么要切成三份、怎样用交叉验证集挑多项式次数 d,以及分类问题的测试误差怎么算。
L04c-2 偏差与方差:比较 J_train 和 J_cv,判断模型太简单还是太复杂
从三张拟合图讲起,看懂偏差和方差各指什么,学会只用 J_train 与 J_cv 的相对大小诊断欠拟合和过拟合,再看 λ 怎样把模型推向偏差或方差、12 个候选 λ 怎么挑。
L04c-3 学习曲线:再收集数据值不值,六个补救动作怎么对号入座
把训练样本数 m 当横轴,一帧帧看训练误差和交叉验证误差怎么变,学会从学习曲线读出偏差和方差,判断加数据有没有用,再把六个补救动作和总误差分解串成一张图。
T04 Tutorial 4:三道概率手算加一道 Monty Hall,考的是哪一步用了独立性
链式法则怎么拆、贝叶斯网络的联合概率怎么连乘、分母从哪来,以及换门胜率为什么是 2/3 而非 1/2。
L05a-1 无监督学习与距离:没有标准答案时,先说清什么叫「像」
从零讲无监督学习:标签拿掉以后还剩什么、两点之间的距离怎么算、为什么同一批点能分出好几种组,以及聚类算法交出来的两种结果:分组表和树。
L05a-2 K-means 循环:插几面旗,让每个点走向最近的那面
从零手算一遍 K-means:六个点、两个中心,逐轮写出全部距离和平均;再讲分界线为什么是直线、簇为什么只能是凸的,以及循环为什么一定会停、一轮要算多少次。
L05b-1 K-means 的目标与收敛:一定会停,但不一定停在对的地方
从零讲 K-means 在压低什么:先看一组数的平方和为什么在平均处最小,再看两步循环怎样轮流压低距离平方和、为什么一定停,以及起点不好时为什么会卡在明显错的分法上。
L05b-2 选 K 与 K-means 的适用范围:分几组怎么定,什么形状怎么分都不对
从零讲 K 怎么选:在图像分割里看 K 改变了什么,为什么不能挑误差最小的 K,肘部法怎么读;再看同心环和月牙为什么 K-means 必然分错,以及换一种特征为什么能救。
T05 命题逻辑三件基本功:真值表、链接法、归结反证
同一组规则、同一个目标,用三种方法各走一遍。真值表怎么按列头拆,or 前件为什么会拆成两条 Horn 子句,归结为什么要先假设结论不成立。
L06a 逻辑回归:一个 sigmoid 神经元
从「判别式分类器」的四个部件讲起,弄懂 sigmoid 怎样把任意分数压成概率,再一步一步算一遍逻辑回归,看清它为什么就是神经网络里的一个神经元。
L06b 隐藏层与前向传播:把几个神经元叠起来
用课件的 Titanic 例子看懂隐藏层:每个隐藏节点是一个逻辑回归,输出层再把它们合起来。再拿一个 2-2-1 小网络逐帧算一遍前向传播,最后看深层网络每层在学什么。
L06c 激活函数:为什么要非线性,为什么换掉 sigmoid
先看清没有激活函数时多层网络会塌成一层;再用斜率表解释 sigmoid 让深层网络训不动的原因;最后对比 tanh、ReLU、Leaky ReLU 和 softplus 各改了什么。
L06d softmax、损失函数与梯度下降:训练在优化什么
多分类时输出层怎样用 softmax 把分数变成概率;回归和分类各用什么损失,交叉熵为什么必须带负号;梯度下降为什么朝斜率的反方向走。
L06e 反向传播:把误差一层层算回去
先补链式法则,再拿逻辑回归演示反向传播的四行,最后在 2-2-1 小网络上逐帧算出每个权重的梯度,纠正课件最后一行求和放错的位置。
L07a-1 从全连接到卷积:一张小窗口滑过整张图
从点积讲起,看全连接层处理图像为什么又贵又丢信息,再在 5×5 的小矩阵上一格一格滑一遍卷积,最后把多个滤波器叠成一层。
L07a-2 步长与补零:输出到底多大,数一数窗口能停几处
从窗口滑动的过程里数出输出尺寸公式 (N − F)/S + 1,看步长取多大会放不下,再讲四周补零怎样让尺寸不缩,以及不补零时图为什么缩得太快。
L07a-3 参数量与池化:数清一层要学几个数,再把图缩小一半
先数一个卷积层的参数量,看它为什么和图的大小无关,认识常见设置和 1×1 卷积;再一格一格做一遍最大池化,最后把卷积、ReLU、池化、全连接串成一个完整的 CNN。
L07b-1 RNN:读一句话时,脑子里那张越写越满的便签
序列任务的五种形状、RNN 的递推公式与参数共享(逐个时间步手算一遍)、展开成计算图后损失和梯度怎么加,以及 seq2seq 和看图说话怎样拼出来。
L07b-2 梯度爆炸与消失:同一个 W 乘太多次会怎样
从同一个数连乘讲起,看 RNN 反向传播为什么每退一步乘一次 W,最大奇异值怎样决定爆炸还是消失,以及梯度裁剪怎么做、为什么只治爆炸。
L07b-3 LSTM:给记忆留一条不被反复改写的通道
从门和 sigmoid 讲起,一步一步算一遍 LSTM 的四个门和记忆更新,看 c 通道为什么让梯度传得更远,最后把 RNN 一层层堆成多层网络。
L08a 专家系统:把专家的经验写成规则,让外行也能用
从一条 IF–THEN 规则讲起,一帧一帧看规则怎样被触发,再拼出规则型专家系统的六个部件,最后认识开发团队的五种角色,以及为什么领域专家是灵魂。
L08b 推荐系统与协同过滤:从海量物品里挑出你会要的那几个
推荐系统为什么是信息过滤、输出为什么是排序用的分数;五种范式怎样按额外输入区分;协同过滤的基本假设;以及怎样把用户–电影的二部图改写成一张满是问号的评分矩阵。
L08c 矩阵分解:把满是问号的评分表拆成两张小表
从向量内积讲起:矩阵分解怎样给每个用户、每部电影各学一个短向量,用内积填评分表里的问号;为什么损失只在已观测格子上算;偏置和正则项各管什么;MAE 和 RMSE 怎么算、差在哪里。
L08d 隐式反馈与 BPR:没有评分,就改学顺序
隐式数据为什么没有负例;逐点预测和成对比较差在哪里;BPR 怎样为每个用户配出正负物品对;sigmoid 从零讲起;BPR 损失怎么算,代码里的 softplus 为什么和公式一模一样。
L08e NDCG@K:给一份排好的推荐列表打分
从位置折损讲起:为什么排得越靠后越不值钱;DCG 怎样一名一名累加增益;为什么要除以理想排序的 DCG;以及 HR、MRR 这些排序指标和 MAE、RMSE 怎样配对记。
L08f NCF 与 NeuMF:让神经网络来学用户和物品怎么匹配
把矩阵分解画成神经网络:嵌入层其实是查表;NCF 用多层网络替换固定的内积;MF 和 MLP 各有什么长短,GMF 为什么比内积更一般;NeuMF 怎样把两支拼起来;工业推荐引擎为什么要分召回、排序几级漏斗。
L09a 从大模型到 Agent:会答题的模型,怎样变成会动手的系统
从零讲大模型怎样一个字一个字地写,RAG 为什么要先查资料,Agent 在模型外面加了什么,以及 Think → Act → Observe 的 ReAct 循环怎样一轮一轮推进任务。
L09a-2 Agent 的五个等级与多 Agent 分工:一个人干,还是一队人干
从零讲 Agent 能力的 L1–L5 五级怎么分,再一帧一帧看一份任务在主从式和网状式两种多 Agent 结构里怎样流转,以及第四层 Coordination Engineering 管的是什么。
L09a-3 上下文、记忆与自进化:让 Agent 能长期干活
从零讲 Agent 长时间工作要解决的三件事:上下文满了怎么卸载、记忆和上下文有什么不同、Skill 怎样根据出错信号自我改进,以及为什么自进化要有治理。
L09b 和 Agent 团队一起做项目:角色、任务图和人该在哪里出手
嘉宾讲座后半的实操演示:用多 Agent 工作台做金融小项目。从零讲角色和依赖、有向无环图、苹果财报项目的任务图与质检关卡,以及人参与 Agent 团队的三种方式。
L09b-2 读懂 Agent 团队交来的结果:最大回撤、基准和独立测试
WorkSwarm 演示的后两个项目:从零讲最大回撤怎么算、为什么全年赚钱回撤也能很大,人怎样质疑资产池,结果为什么要和 60/40 基准比、样本内意味着什么,以及独立测试角色和验收清单。
L10a 生成模型:GAN 和扩散模型怎样从一团噪声里造出图片
从零讲生成式 AI 的起点:为什么要从随机噪声出发,GAN 里生成器和判别器怎样互相较劲,扩散模型怎样先加噪再一步步去噪。
L10b 从 RNN 到大模型:语言模型为什么换了结构、又越做越大
从零讲语言模型在做什么,RNN 为什么又慢又健忘,Transformer 的四个组件怎样解决这两个问题,以及模型和数据一起变大时的缩放律。
L10c 微调、提示与上下文学习:怎样让一个大模型做你的任务
从零讲三种用预训练模型的方式:微调、提示、指令微调;提示怎样把分类题改成填空题;FT、FS、1S、0S 四档的取舍;以及不改参数也能学会新任务的上下文学习。
L10d 思维链与检索增强:让大模型算对多步题、答出它不知道的事
从零讲思维链提示为什么能让模型算对多步题,零样本思维链那一句「Let's think step by step」,以及检索增强的大模型怎样先查资料再回答,把闭卷考变成开卷考。
L10e 提示、上下文与 Harness:大模型出了问题先查哪一层
从零讲提示工程的四要素、上下文工程的四步、harness 工程的 RUN、CONTROL、CHECK 和工具调用循环,再用同一个「比较两款 AI 学习工具」的任务说明三层各管什么、出了问题先查哪层。
L10f 生成式 AI 用在哪、要防什么:推荐系统与可信四维度
从零讲大模型怎样用在推荐系统里,用户和物品的编号为什么是难点、TokenRec 怎样把编号变成大模型认得的 token;再讲科学、代码等其他应用,以及安全、公平、可解释、隐私四个可信维度和各自的例子。
T06a Vibe Coding 上手课(上):看懂循环、写清提示词、亲手核对数字
Exercise 0–2 走一遍 vibe coding 的前半段:选好工作区,核对两份真实 CSV 的行数和缺口,再用五要素提示词画六面板图,并从原始数据手算一个均值和样本标准差。
T06b Vibe Coding 上手课(下):分清三层说明,检查并调用上游 skill
Exercise 3–4 走一遍 vibe coding 的后半段:分清任务提示词、AGENTS.md、SKILL.md 各管什么,学会去哪里找 skill,检查并整包安装上游作图 skill,再调用它画同一张六面板图。
T07a 做一个论文检索工具(上):余弦相似度和先定死的检索设置
论文检索工具的前半程:查询和论文都变成向量,用余弦相似度排序;在写代码之前,先让 agent 画架构、问清检索设计,再把模型、编码时机、打分、条数、同分和空查询逐条写死。
T07b 做一个论文检索工具(下):搭后端、照截图做前端、先定标准再测
论文检索工具的后半程:按批准的计划搭检索接口并用 curl 测连通,从参考截图拆出界面元素再搭前端,收藏存在浏览器里、导出 CSV;最后用事先定好的相关性判断写六类测试,量 Recall@10。
期末复习怎么用
期末 3 小时笔试占 70%,课件没注明开卷与否,按闭卷准备更稳(我的判断)。前半的搜索、逻辑、贝叶斯网络有标准解法、判分客观,刷题的边际收益最高;深度学习那几讲更可能考概念辨析,复习方式不同。
- 1按讲把页尾「必背」过一遍,卡住的条目回到那一讲的「概念卡」重看,别停在「看着眼熟」。
- 2每讲的「完整例题」跟着算一遍,然后合上页面做「变式题」,对不上判分点就回头补那一条。
- 3最后扫「课件里的坑」:标了 [课件有误] 的按笔记里的更正记,标了 [口径差异] 的按课件写。
要能动笔算的题型
这几类没有思考余量,练到不看提示就能做。
- A* 展开顺序
- 给带权图和启发式表,写出展开顺序与每步 f 值
- αβ 剪枝
- 给 minimax 树,标出被剪掉的分支和根的值
- 贝叶斯网络
- 给网络结构和条件概率表,算联合概率或后验概率
- 信息增益
- 给数据表,算按某属性划分的增益,选出根节点
- k-means
- 给点集和初始中心,手算两轮迭代
- 网络参数量
- 全连接层、卷积层各有多少参数
复习的产物:自己填的表
填表本身就是复习,抄一份现成的没有用。
- 搜索算法对照表:评价函数、完备性、最优性、时间与空间复杂度
- 不确定性方法对照表:核心机制、成立假设、主要缺陷
- 机器学习范式对照表:反馈形式、典型任务、代表算法
- 符号主义 vs 连接主义:知识来源、可解释性、主要瓶颈
累计考点表
各讲页尾「必背」的汇总,随讲次增长。复习时按讲回看,点讲次跳到那一页。
- AI ⊃ 机器学习 ⊃ 深度学习;AI 定义句 the science and engineering of making intelligent machines 出自 John McCarthy,学科诞生于 1956 年 Dartmouth 会议
- 两条路线:专家系统手工编码规则,可解释但卡在 knowledge acquisition bottleneck;机器学习从数据学规则,性能强但难解释
- 两条路线对照:知识来源(人手工编码 / 从数据学)、更新方式(改规则 / 喂新数据重训)、瓶颈(知识获取 / 数据质量与数量)
- 历史三锚点:1950 图灵测试 / 1956 达特茅斯会议 / 1988–93 AI 寒冬
- AI 寒冬的成因:专家系统规则手工编写成本极高、无法泛化、维护困难,按通用智能期待投的钱只换来窄领域工具,资金撤离
- AI 史是符号主义(写规则)和连接主义(学参数)的钟摆;Deep Blue 属前者,AlphaGo 属后者
- 深度学习 = 多层非线性信息处理(Deng & Yu, 2013),「深」指隐藏层的数量
- 「非线性」不能丢:纯线性的多层网络叠起来等价于单层,加层数不增加表达能力
- 深度学习相对传统机器学习的核心优势是自动学习层级特征(像素 → 边缘 → 局部形状 → 物体部件 → 完整物体),省掉人工特征工程
- 大数据 4V:Volume / Velocity / Variety / Veracity,最容易漏掉的是 Veracity
- 神经网络 1980 年代就有,深度学习 2012 年后才爆发,缺的是数据和算力
- Samuel 1959:Field of study that gives computers the ability to learn without being explicitly programmed,强调不用显式编程
- Mitchell 1998 的 <T, P, E>:程序在任务 T 上由指标 P 度量的表现随经验 E 提升,就叫从经验中学习
- 传统编程是人写规则 → 机器执行;机器学习是人给数据 → 机器出规则
- 机器学习三分类的判据是标签的有无与来源:有标准答案是监督,只有数据是无监督,环境给奖励是强化
- 监督学 x → y 的映射(线性回归、决策树、SVM、CNN);无监督找数据内在结构(k-means、层次聚类、PCA);强化学最大化累计奖励的策略(Q-learning、DQN)
- 半监督:少量有标签数据加大量无标签数据,介于监督和无监督之间
- 回归和分类都属于监督学习:回归输出连续值,分类输出离散类别
- 回归常用损失 MSE,评价看 MSE / MAE / R²;分类常用交叉熵,评价看准确率 / 精确率 / 召回率 / F1
- 判断回归还是分类看最终要的答案是数值还是类别;预测降雨概率若以下雨 / 不下雨标签训练,属于概率分类
- 监督学习通用骨架:模型(假设 y = wx + b)→ 损失函数(回归常用均方误差 MSE)→ 优化(调 w、b 使损失最小,常用梯度下降)
- 后面学神经网络时,变的只是第 1 步的模型形状,第 2、3 步的逻辑完全一样
- k-means 四步:随机选 k 个中心点 → 把每个样本分给最近的中心 → 重新计算每组的中心(取组内均值)→ 重复分配与更新直到中心不再移动
- k-means 的分组不是分类:类别是算出来的,每组代表什么要人事后解释,k 要人预先指定
- 强化学习五要素 agent / environment / state / action / reward,目标是学出最大化长期累计奖励的策略(policy)
- 强化学习的反馈可以延迟、稀疏,要解决信用分配问题(credit assignment):赢了一盘,功劳该记在哪一步上
- 监督学习每一步都有人给正确答案;强化学习只有奖励告诉你做得好不好,不告诉你正确做法
- 引用先看相关性与证据质量,再核发表和评审状态;预印本未必评审,workshop 是否评审要查具体征稿规则,排名和引用量都不是质量保证
- 三个检索工具分工不同:Scholar 搜得广并能顺着 Cited by 往后追,DBLP 出处最准且直接给 BibTeX,学校图书馆负责下到正版全文
- 论文八个部分里 Introduction 信息密度最高,其中「现在还缺什么」那一句直接就是选题线索
- 读 Method 要读 why 不只读 what:每个设计选择在解决什么问题,比模型有几层更值得写进笔记
- 看实验盯两处:baseline 是不是选得太弱太旧,以及有没有做消融实验说明提升来自哪个部件
- 三个来源分阶段用:社区探路 → 搜索引擎定位 → 顶会论文取可靠结论
- 四遍读法的本质是给放弃留出口:第一遍只读标题摘要图,用来判断要不要继续;第三、四遍明确允许跳过数学和看不懂的部分
- 读完记录「这个我自己能用在哪」或「为什么不适用」;排除不合适的方法同样是有效收获
- 找题两步从宽到窄:先读近期综述拿 future directions,再读子领域顶会论文找 research gaps;目标是在别人的 limitations 上前进一步,不是找无人区
- 做研究的顺序是先有问题再有方法,不能反
- 读的时候挂着四个问题:作者想达成什么、方法的关键要素、你自己能用什么、还想追哪些参考文献;按重要性第三问排第一
- 课件给的两种常见方法路径:跨领域移植和改进现有方法;Imitate top-tier conference papers 是写作建议
- 搜索问题五要素:当前状态 / 目标状态 / 动作 / 代价 / 解;解是一条路径,不是一个状态
- 状态图里节点是状态、边是状态转移;And 节点的几条边被弧线连起来、要全部完成,Or 节点任选一条走通
- 生成测试把所有可能列出来逐个检查,井字棋要试 9! = 362,880 种,是后面所有算法的对照组
- 盲目搜索只会判断当前状态是不是目标;启发式搜索多用一样东西:离目标还有多远的估计
- Open 是待展开、Close 是已展开;循环三步:从 Open 取一个,是目标就停,否则孩子进 Open、它自己进 Close
- 评价一个搜索算法只看四条:完备性、最优性、时间、空间;本课件 d = 搜索树深度,b = 分支因子,m = 最浅解的深度,且 d 可以远大于 m
- BFS 的 Open 表是队列(FIFO):从队首取、孩子加到队尾,所以同一层的节点一定先于下一层被展开
- 有限分支、有有限深解时 BFS 完备,并且找到边数最少的路径;边的代价不同时它不保证代价最小
- BFS 时间 O(b^(m+1)),m 是最浅解的深度:它不会去碰比解更深的层,指数上是 m 不是 d
- BFS 空间也是 O(b^(m+1)),要同时存一整层,这是它的死穴:b=10、m=10 时约 10¹¹ 个节点
- 八数码后继数:空格在角 2、边 3、心 4,再减掉回到父节点的那一步;visited 在入队时标记,避免同一节点重复入队
- DFS 的 Open 表是栈(LIFO):从栈顶取、孩子也压回栈顶,所以先访问孩子、再访问兄弟
- DFS 结果依赖孩子的顺序,课件默认从左到右选;压栈时把最先要访问的孩子放在栈顶
- DFS 在无限深或有环的空间里不完备;沿路检查重复状态(Close 表)后只在有限空间完备,而且不保证最短
- 不保存全局 Close 表的树式 DFS 空间 O(d·b):只存一条路径加沿途兄弟;最坏时间 O(b^d),d 可以远大于 m
- BFS 用队列、费内存、保证边数最少;DFS 用栈、省内存、不保证最短;内存吃紧又不要求最短选 DFS
- 启发式搜索用到目标的距离估计指导方向,拿完备性和最优性换速度,课件原话 success is NOT guaranteed
- 启发式也可以是等价判断:井字棋有 8 种对称,第一层只剩 3 个状态、第二层 12 个,空间至多 12 × 7! = 60,480
- 爬山法只看一步、只留最好的一个孩子、不记历史,走错了就回不来
- 井字棋 most wins 给每格打分:角 3、中心 4、边 2,所以第一步下中心;启发函数的价值在于粗糙但便宜
- 爬山法三种典型失败地形:局部最大、高原、山脊,根因是只看局部、不留历史
- 最佳优先保留 Open 表,从所有待展开节点里挑 h 最小的,能跳回被放弃的分支;但不完备、不最优
- 八数码两个启发函数:距离之和比不在位方块数更准;设计好的启发函数靠经验、很难
- f(n) = g(n) + h(n):g 是从起点已付出的实际代价,h 是到目标的估计
- admissible 形容算法时指只要解存在就保证找到代价最小的解;BFS 是 admissible 的,但常常太低效
- h(n) ≤ h\*(n) 不高估是 A\* 的定义条件,课件定理:All A\* algorithms are admissible
- A\* 手算时碰到目标不能立刻停,要等它被选出来展开才算结束
- 同一棵树上 BFS 与 DFS 的访问顺序完全不同:BFS 兄弟先于孩子,DFS 孩子先于兄弟
- 展开一个节点时,指向已在 Open 或 Close 里的节点的那些边不重复加入;漏掉这一步 Open 会长出重复项,后面整张表全乱
- 访问顺序与解路径是两回事:访问顺序里的节点未必在解路径上,答题时两样都要写清楚
- DFS 的结果取决于孩子的排列顺序,做题前先确认题目要求升序还是降序;用栈实现时,想先访问谁就让谁最后入栈
- 同一张图上 DFS 比 BFS 少展开几个节点,只说明目标恰好在先选的那条分支上,推不出 DFS 更快
- DFS 靠栈里保留的、路径上每个节点尚未展开的兄弟回溯,这是它空间复杂度 O(d·b) 而非 O(d) 的来源
- 有环的图上去掉重复状态检查,DFS 会沿着环无限循环、永远到不了目标;有限有环图需要重复状态检查保证终止;树或无环图不必依赖 Close 表
- BFS 逐层推进,不会顺着环一路往下钻,所以它同样需要查重,但有限分支且有有限深解时仍可找到解,无解时也可能不终止
- 概率的频率定义:做 N 次试验、事件出现 n 次,频率 f_N = n/N 在 N 足够大时稳定下来的那个值就是概率,依据是大数定律
- 结果是样本空间 S 里的一个元素,事件是结果的集合(S 的子集);H 是结果,{H} 才是事件
- 课件用 EF 表示交集(同时发生),看到几个大写字母连在一起一律读成「同时」
- 概率的真正定义是三条公理:0 ≤ P(E) ≤ 1、P(S) = 1、互斥事件可加;可加性只对互斥成立
- 有交集时用容斥:P(E ∪ F) = P(E) + P(F) − P(EF),减掉被数了两次的交集
- 随机变量是给每个结果贴一个数的函数,必须对每个结果都有定义且只贴一个数;抛三次硬币的正面个数分布是 1/8、3/8、3/8、1/8
- 合法的概率分布要每项在 0 到 1 之间、全部加起来等于 1;概率为 0 不等于不可能
- 联合概率 P(EF) 是 E 和 F 同时发生的概率;2×2 联合表四格加起来等于 1,按行或按列加回到单个事件的概率
- P(E|F) = P(EF)/P(F),要求 P(F) ≠ 0,直观是把样本空间从 S 缩小到 F
- 课件左图 P(E|F) = (3/6)/(5/6) = 0.6,比 P(E) = 4/6 ≈ 0.667 小;右图 E、F 互斥,P(E|F) = 0
- P(E|F) 和 P(F|E) 一般不相等:分子都是 P(EF),分母一个是 P(F)、一个是 P(E)
- 独立是 P(EF) = P(E)P(F),代进定义得 P(E|F) = P(E),知道 F 不改变 E 的概率
- 互斥是 P(EF) = 0;两个概率都不为零的事件,互斥就一定不独立
- 乘法公式 P(EF) = P(E|F)P(F) = P(F|E)P(E):同一个交集有两种拆法
- 全概率公式 P(E) = P(E|F)P(F) + P(E|F^c)P(F^c):F 和 F^c 把样本空间切成互斥的两块,分别算再相加
- 贝叶斯公式 P(F|E) = P(E|F)P(F) / [P(E|F)P(F) + P(E|F^c)P(F^c)],分子来自乘法公式,分母来自全概率公式
- P(F) 是先验(看到观测之前的信念),P(F|E) 是后验(看到观测 E 之后更新过的信念)
- 疾病检测题答案 ≈ 0.0194——先验极小时假阳性的绝对数量压倒真阳性,忽略这种基础率影响才叫 base rate fallacy
- 换成人数复算:100000 人里 100 人患病、99 人阳性,99900 个健康人里 4995 人假阳性,阳性者真患病 99/5094 ≈ 2%
- 链式法则:P(A₁A₂…A_n) = P(A₁|A₂…A_n)·P(A₂|A₃…A_n)·…·P(A_n),每次剥掉最左边一个变量;变量顺序任意
- 链式法则本身不省参数:n 个布尔变量的联合分布要 2ⁿ 个数,剪小靠的是条件独立
- 条件独立 P(AB|C) = P(A|C)P(B|C) 可推出 P(A|BC) = P(A|C);它和独立互不蕴含
- BBN 是有向无环图加每个节点的条件概率表,核心假设是给定父节点后与所有非后代条件独立
- 串行 P(AVB) = P(B|V)P(V|A)P(A)、发散 P(AVB) = P(B|V)P(A|V)P(V) 靠条件独立化简;汇聚 P(AVB) = P(V|AB)P(A)P(B) 靠根节点本来就独立
- 孤立三节点图中,串行和发散在中间节点已知时阻断;汇聚在自身或后代被观测时可打开(explaining away)
- 联合概率通式 P(x₁…x_n) = ∏ P(x_i | parents(x_i));本例 P(ETCL) = 0.96 × 0.93 × 0.95 × 0.9 ≈ 0.76
- 因果推理顺箭头走,把缺失的父节点用全概率公式补齐(Include all the parents),P(C|T) ≈ 0.884,P(C|T^c) = 0.095
- 诊断推理逆箭头走,先做因果推理算出 P(C|T)、P(C|T^c),再套贝叶斯公式,P(T|C) ≈ 0.988
- 四个布尔变量的联合表有 16 格(自由参数 15 个),BBN 只要 2 + 2 + 4 = 8 个数
- 化简 P(L|CET) → P(L|E) 依据条件独立;P(E|T) → P(E) 依据两个根节点本来独立
- 训练循环的五步顺序是 zero_grad → 前向 → 算损失 → backward → step,四份 notebook 的训练函数全是它的变体
- 梯度是累加进 .grad 的不是覆盖的,不清零第二个 batch 的梯度会叠在第一个上;手写原地参数更新用 torch.no_grad();普通 optimizer.step() 已处理这一点
- 无 padding、stride 为 1 时卷积输出边长等于输入边长减核边长加一,本例 2×2、stride=2 的池化边长减半;LeNet 里 16×5×5 = 400 要能自己推出来
- nn.Linear 的 weight 形状是 (out_features, in_features),与构造函数的参数顺序相反,手写线性回归写 w.t() 就是为了补这个转置
- CrossEntropyLoss 内部自带 LogSoftmax,网络最后一层应输出裸 logits;网络里已经有 LogSoftmax 就配 NLLLoss,推荐这两种配对,别把概率误当 logits
- 材料两例分别用 1e-6 和 1e-3;归一化有助于优化,但不能据不同模型断言学习率必提高千倍
- 循环层漏掉 batch_first=True 不会报错,模型会把时间维当成 batch 维处理,属于典型的不报错的错
- 自回归外推把预测值滚回输入窗口,误差逐步累积,长程结果是题目要求的输出长度而不是模型的有效预测能力
- 爬山法每次只看当前状态的邻居、往更好的方向走,可能停在局部极大、在平台上迷路、在山脊上走之字形
- 四皇后建模:状态是每列皇后的行号,邻居是交换两列,目标是互相攻击的皇后对数,要最小化;两列冲突当且仅当同行或行差等于列差
- 初态 (3,1,2,0) 成本 2,交换 (0,1) 得 (1,3,2,0) 成本 1,再交换 (2,3) 得 (1,3,0,2) 成本 0;同分时选下标最小的交换对
- 每步选最大的子节点只得到 2 → 8 → 3 → 6 共 19,全局最大是 2 → 4 → 9 → 8 共 23;贪心解码就是爬山法,beam search 每步保留 Top K 条候选来缓解
- A* 每次从 Open 取 f = g + h 最小的节点展开,Open 的书写顺序不是取出顺序;终点被取出时才结束,刚进 Open 时不结束
- 邻居的新 f 小于旧 f 就更新,若它已在 Close 里要移回 Open;本题 B 让 D、E 重开,改进传到 F、G,G 从 19 降到 18
- 本题最优路径 S → B → E → F → G,代价 18;h 可采纳但不一致(B–E 边上 13 > 6 + 4),所以会出现重开
- 一个逻辑系统 = 语法(结构)+ 语义(含义)+ 推理规则;只看符号形状的是语法,要代入真值判断的是语义
- 连接词优先级 ¬ > ∧ > ∨ > ⇒ > ⇔,恰好是它们在课件符号表里出现的顺序
- S1 ⇒ S2 在 S1 为假时为真(空真),且 S1 ⇒ S2 ≡ ¬S1 ∨ S2——这条等价是转 CNF 的关键
- 解释 = 给每个原子赋真值,n 个原子有 2ⁿ 个解释;模型 = 让句子为真的解释
- 岛民第一句要写两条蕴含 (AL ⇒ ¬(AL ∨ BL)) ∧ (¬AL ⇒ (AL ∨ BL)),只写一条锁不住答案;唯一模型是 ¬AL ∧ BL,A 说真话、B 是骗子
- satisfiable 至少 1 个模型,unsatisfiable 0 个模型,valid 全部 2ⁿ 个解释都是模型;Valid ⊂ Satisfiable
- α 有效 ⟺ ¬α 不可满足;归结法证 KB ⊨ Q,就是证 KB ∧ ¬Q 不可满足
- 两个句子等价 = 在每一个解释下真值都相同,只要有一行不同就不等价
- α ⇒ β 只和逆否 ¬β ⇒ ¬α 等价;逆命题 β ⇒ α 和否命题 ¬α ⇒ ¬β 都不等价于原命题
- 岛民三句话的模型数是 1 / 3 / 0:「None of us is a liar」只能推出 AL ∨ ¬BL,「I'm a liar」不可满足
- 转 CNF 用到的等价律:biconditional elimination、implication elimination、两条 de Morgan、双重否定、∨ 对 ∧ 的分配律
- 不用真值表的理由是 2ⁿ 指数爆炸;推理规则路线只碰和目标相关的句子
- Horn 子句 = 单个符号,或「合取 ⇒ 符号」;化成析取后正文字 ≤ 1 才是 Horn 子句
- 前向/后向链接都假设 KB 是 Horn 子句的合取,a ∨ b 这种两个正文字的句子装不下
- 前向链接两步:触发前提全部已知为真的规则,把结论加入 Agenda;直到推出 Q 或推不出新结论
- R1–R7 的前向推导:{A,B} → R5 → L → R3 → M → R2 → P → R1 → Q,R4 全程没被触发
- 前向链接是数据驱动、线性时间、完备的;缺点是多条规则可触发时随机选,可能推出无关结论
- 后向链接递归四步:Q 已知则得证;选一条结论为 Q 的规则;递归证它的每个前提;不行就换规则
- R1–R7 的后向推导:Q ← P(R1)← L、M(R2)← A、B(R5、R3)← 事实
- p.32 不能选 R4,因为 P 已在当前递归路径上,选它会循环;后向链接必须记录已访问目标
- 前向链接数据驱动,后向链接目标驱动;两者最坏都是 KB 规模线性、都完备、都要求 Horn 子句
- 后向链接实际开销通常远小于 KB 规模,只碰和目标相关的规则;前向链接可能推出大量无关结论
- 归结规则:两个子句含一对互补文字时,消掉这一对、其余全部析取;一次只消一对
- CNF = 合取套析取(最外层是 ∧);每个 PL 句子都等价于某个 CNF 句子
- 转 CNF 四步:消 ⇔ → 消 ⇒ → ¬ 内推(de Morgan + 双重否定)→ 分配律展平
- 归结算法用反证法:S = KB ∪ {¬Q},全转 CNF,反复归结;推出空子句 ⟹ Q 成立,推不出新子句 ⟹ Q 不成立
- Tom/John 题的 5 个子句是 p∨q、¬p∨s、¬q∨r、¬r、¬s;q∨s 与 ¬q 得 s,s 与 ¬s 归结出空子句
- p ∨ q 不是 Horn 子句,链接法装不下,这正是归结法存在的理由
- Samuel (1959) 的定义:机器学习是让计算机在不被显式编程的情况下获得学习能力的研究领域,关键词 without being explicitly programmed
- 监督学习的目标是对将来没见过的数据也预测准,把训练数据分对只是手段
- 表格里一行是一个样本:前面各列是特征 x,最后一列 spam? 是标签 y,supervision 指的就是 y
- 记号:n 个样本 (x⁽ⁱ⁾, y⁽ⁱ⁾),上标是样本编号、下标是特征编号
- 线性规则 2·money + 3·pills − 5·known > 0 是给特征加权求和再和阈值比,判据是严格大于 0
- 线性可分指正负样本能被一条直线(高维叫超平面)分开
- 回归和分类的区别只在 y:y 是连续数值叫回归,y 是有限个类别叫分类
- 同一份 x 换一个 y 就换任务类型:房产数据问价格是回归,问户型是分类
- 回归的预测值就是拟合出的函数在新 x 处的取值;直线和抛物线在 x = 800 处给出约 0.6 和约 0.7 两个不同答案
- 监督学习应用看 x 和 y:图像分类 y 是类别,目标检测 y 是方框坐标,机器翻译 y 是译文,推荐系统是填评分矩阵里的空格
- In-context learning 在提示里给示例,不更新梯度(no gradient updates),模型参数不变
- 无监督学习的数据集只有 x⁽¹⁾, …, x⁽ⁿ⁾,没有标签 y,目标是找有意思的结构,课件说这个目标是 vaguely-posed
- 同一份数据可以分三簇也可以分两簇,簇数由人定;正式名称是 k-means
- k-means 先定 k 个中心,反复做两步:每个点归给最近的中心,中心挪到本簇的平均位置,直到归属不再变化
- 词向量把词编码成向量、把词之间的关系编码成方向,训练只用大量无标签文本,代表算法 Word2vec 和 GloVe
- 降维把高维数据压到两三维,同时保住点和点之间的远近关系;t-SNE 把 784 维的手写数字图片压到二维,同一数字自动聚成一团
- 三种范式按数据分:监督学习有 (x, y) 对,无监督学习只有 x,强化学习的数据靠和环境交互收集
- 强化学习一步的四个记号:状态 s、动作 a、奖励 r、新状态 s′;智能体在 s 下选 a,环境返回 r 和 s′
- 课件把数据收集和训练画成循环:先用当前策略去试、收集反馈,再根据反馈改进策略
- 三种范式按任务分是并列的,按方法用可以叠在一个系统里
- RLHF 三步:收集人类偏好排序、训练奖励模型、用奖励模型指导语言模型微调,前两步都是监督学习,最后一步才是强化学习
- 单变量线性回归的假设函数 h_θ(x) = θ₀ + θ₁x:θ₀ 是截距,管上下平移;θ₁ 是斜率,管倾斜
- x⁽ⁱ⁾ 的上标是第 i 个样本的编号,不是幂次;m 是训练样本个数
- 代价函数 J(θ₀, θ₁) = (1/2m) Σ_{i=1}^{m} (h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾)²,求和遍历全部样本,预测减真实再平方,系数是 1/2m 而非 1/m
- 三点例题 (1,1)(2,2)(3,3) 且 θ₀ = 0:J(1) = 0,J(0.5) = 3.5/6 ≈ 0.58;h 是 x 的函数、J 是 θ 的函数,左图一条线对应右图一个点
- 线性回归的 J 画出来是一只碗(凸函数),只有一个最低点;三点例子里 J(θ₁) = (14/6)(θ₁ − 1)²,碗底在 θ₁ = 1
- 导数是曲线在某点切线的斜率:负数说明往右走会下降,正数说明往右走会上升,绝对值越大坡越陡
- 偏导数 ∂J/∂θⱼ:其他参数固定不动,只动 θⱼ 时 J 变化的坡度
- 梯度下降更新式 θⱼ := θⱼ − α·∂J/∂θⱼ:减号让参数往下坡方向走,α 是学习率,「:=」读「更新为」
- 线性回归的两条更新式:θ₀ := θ₀ − α(1/m)Σ(h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾);θ₁ := θ₁ − α(1/m)Σ(h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾)·x⁽ⁱ⁾;θ₁ 那条末尾多乘 x⁽ⁱ⁾,系数都变成 1/m
- 三点例子 θ₀ = 0、θ₁ = 0.5、α = 0.1:∂J/∂θ₁ = −7/3 ≈ −2.33,一步后 θ₁ ≈ 0.733;越靠近碗底坡越缓,步子自动变小
- 两个参数必须同时更新:temp0、temp1 都用旧 θ 算完再一起赋值;先更新 θ₀ 再算 θ₁ 的梯度是错的
- 课件对两种实现的评语:同时更新 ensures consistency,顺序更新 can introduce bias and instability
- α 太小收敛慢,α 太大跨过碗底来回震荡甚至发散
- 三点例子里每步 (θ₁ − 1) 乘上因子 (1 − 14α/3):α = 0.1 时 0.53,α = 0.3 时 −0.4,α = 0.5 时 −1.33;绝对值大于 1 就发散,分界 α ≈ 0.43
- 非凸曲面上初始点不同可能走到不同的局部最低点;线性回归的 J 是凸的碗,只有一个最低点,不会陷入局部最优
- 欠拟合对应 high bias,过拟合对应 high variance;过拟合的标志是训练集 J ≈ 0 但新样本预测差,处理办法是减特征或正则化
- L2 正则化代价函数 J(θ) = (1/2m)[Σ(h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾)² + λ Σ_{j=1}^{n} θⱼ²],惩罚项从 j = 1 起、θ₀ 不罚;L1 = Lasso 用 |θⱼ|,L2 = Ridge 用 θⱼ²,λ 是超参数
- 把四次多项式的 θ₃、θ₄ 压到接近 0,它就退化成二次曲线;参数越小假设越简单,越不容易过拟合
- λ 是过拟合和欠拟合之间的旋钮:λ = 0 等于没正则化(过拟合),λ 太大把参数全压没(欠拟合),中间某个值泛化最好
- 三点例子加 L2 正则(θ₀ = 0):最优 θ₁ = 14/(14 + λ),λ = 0 时 1,λ = 1 时约 0.933,λ = 14 时 0.5;λ 越大越往 0 拉
- 过拟合是所有监督模型的通病:分类问题里决策边界越扭曲、越迁就个别点,越可能是过拟合
- 训练误差是乐观估计:参数在训练集上拟合过,训练误差一定低于真实泛化误差
- 拿测试集挑 d 或 λ,测试误差就变成乐观估计,因为超参数已经在测试集上拟合过
- 三分法固定顺序:训练集拟合 θ,交叉验证集选超参数(d、λ),测试集只在最后报一次分
- J_train、J_cv、J_test 形式相同,都是 (1/2m) Σ(h − y)²,只换数据集和样本数,三个都不含正则项
- 分类的测试误差:log-loss 第二项是 (1 − y) log(1 − h(x));0/1 错分率是判错样本的比例,h(x) ≥ 0.5 判 1
- 10 行数据按 70/30 切是 7 + 3,按 60/20/20 切是 6 + 2 + 2;切之前先随机打乱
- 高偏差(欠拟合):J_train 高且 J_cv ≈ J_train;高方差(过拟合):J_train 低且 J_cv ≫ J_train
- d 增大:J_train 单调下降,J_cv 先降后升呈 U 形;d 图左边是偏差区,右边是方差区
- λ 很大时 θ_j ≈ 0,h ≈ θ₀ 是水平线,高偏差;λ 很小接近不正则化,高方差
- 随 λ 增大 J_train 单调上升,J_cv 呈 U 形,和 d 图左右镜像:λ 图左边方差区、右边偏差区
- 选 λ 的流程和选 d 一样:候选从 0.01 起翻倍,加上 λ = 0 共 12 个,交叉验证集挑最小 J_cv,测试集报分
- 只有训练目标 J(θ) 带正则项,J_train、J_cv、J_test 三个评估误差都不带
- 学习曲线:横轴是训练样本数 m;m 增大时 J_train 上升,J_cv 下降
- 学习曲线读图:两条线的间隙是方差,收敛平台的高度是偏差
- 高偏差时两条线很快收敛在高位,加数据没用;高方差时两条线之间有大缺口,加数据很可能有用
- 六个补救动作分两组:治高方差用加数据、减特征、增大 λ;治高偏差用加特征、加多项式项、减小 λ
- 总误差 = 偏差² + 方差 + 不可约误差;模型复杂度增大时偏差²下降、方差上升,总误差呈 U 形
- 多事件联合概率先写链式法则 P(A,B,C) = P(C|A,B)·P(A|B)·P(B),再用题给的独立性替换其中一项,不能一上来就三数相乘
- 题面里「C 与 AB 条件独立」的实际含义是 C 与联合事件 AB 独立,即 P(C|A,B) = P(C);它没有说 A 与 B 独立
- 贝叶斯网络的联合概率等于每个节点在其父节点下的条件概率连乘:P(E,T,C) = P(E)·P(T)·P(C|E,T)
- 汇聚连接 E → C ← T 里,只要 C 未被观测,两个根节点 E、T 独立,所以 P(E|¬T) = P(E);答题时必须写出这条理由
- 从联合分布表求条件概率:分子直接查表,分母把条件为真的所有行相加,P(A|B) = P(A,B) / [P(A,B) + P(¬A,B)]
- Monty Hall 的全部信息在似然里:P(H₃|C₁,X₁) = 1/2、P(H₃|C₂,X₁) = 1、P(H₃|C₃,X₁) = 0;先验相同时后验之比就是似然之比,换门 2/3
- 概率树上不能数叶子,要按每片叶子的概率加权;换门赢的六片叶子各重 1/9,合计 2/3
- 无监督学习的数据只有 x 没有标签,目标是找数据自身的结构,课件明确标注这个目标是模糊定义的、没有客观对错判据
- 「相似」的一种选择是欧氏距离的平方 dist(x, y) = ‖x − y‖²₂;聚类结果极度依赖所选的距离度量
- 聚类算法分两大类:平坦式(K-means、Mixture of Gaussian、Spectral Clustering)输出一张分组表,层次式(自底向上凝聚、自顶向下分裂)输出一棵可在任意高度横切的树
- 聚类在不知道要找什么时有用,风险是可能得到一堆没意义的结果(gibberish),课件把两句并排写
- 「相似」不一定是几何距离:搜索词聚类按查询的共现或点击行为,把多义词 apple 拆成几个意图簇
- K-means 三步循环:随机取 K 个中心,每个点归给最近的中心,中心改为所属点的算术平均,重复到没有点改变归属
- 分配步等价于 Voronoi 划分,簇边界是两个中心的垂直平分线,所以 K-means 只能切出凸形的簇
- 每轮代价:分配 O(KN),更新 O(N),合计 O(KN);算上维度是 O(KNd),总轮数没有好的上界
- 停止条件看归属不看中心:归属是离散的,至多 Kⁿ 种,所以循环有限步一定终止
- 第一次分配的分界线横穿两团、两团里混着别的颜色,是第一轮的正常中间状态,不算出错
- 目标函数是所有点到所属中心的距离平方和;第一步固定中心优化划分,第二步固定划分优化中心,两步都不会增大它
- 中心取算术平均是对目标函数求偏导置零解出来的;目标里的平方换成绝对值,最优中心就变成中位数
- 收敛论证是「目标函数单调不增 + 划分方式总数有限」,只保证会停、不保证停在全局最优,所以 K-means 是启发式算法
- 初值确实有影响:同一批点换一组初始中心会收敛到不同结果;课件点名的补救是基于方差的 split / merge 和各种初始化启发式
- 卡住的机制:走到正确解要先合并两个中心、再把一个搬走,中途误差平方和必然升高,只往下走的算法不会走上坡路
- 误差平方和随 K 单调不增,不能靠它最小来选 K,要用肘部法取下降幅度突然变小的那个 K,课件示例曲线肘点在 K=3
- K-means 处理不了非凸簇:同心环、两个月牙上都会沿一条直线把每个簇切断
- 出路之一是换特征或换距离函数:同心环数据从 (X, Y) 换到 (R, θ),两类就变成两条可被直线分开的横带
- 图像分割用 K-means 把每个像素换成所属中心的颜色,K=2、3、10 越大越接近原图,误差平方和就是压缩带来的失真总量
- 卡在局部最优换个初值有救,非凸形状的失败换多少次初值都没用,两种失败性质不同
- 蕴含 S1 ⇒ S2 等价于 ¬S1 ∨ S2,只有前件真、后件假这一种情况为假
- (A ⟹ B) and not (B ⟹ A) 只在 A 假、B 真时为真,刻画的是 A 严格蕴含 B 而不等价
- CNF 转换四步:消 ⇔ 拆成两个方向、消 ⟹ 换成 ¬前件 ∨ 后件、¬ 用德摩根往里推、∨ 对 ∧ 用分配律
- 前件是 or 的规则转 CNF 后会拆成两条 Horn 子句,前件是 and 的规则不拆
- Horn 子句要求每个子句至多一个正文字,前向和后向链接只能处理这种形状,归结不要求
- 前向链接从已知事实出发、前件全满足就把结论加入已知,是数据驱动;后向链接从目标出发换成子目标,是目标驱动
- 归结法要证 C ⟹ A,先写成 ¬C ∨ A 再取否定得到 C ∧ ¬A 加进子句集,归结出空子句即证毕
- 判别式模型只学 p(y|x),如逻辑回归、SVM;生成式对 (x, y) 建模再推出 p(y|x),如朴素贝叶斯
- 判别式分类器四个部件:特征表示、分类函数、目标函数、优化算法;神经网络只换掉分类函数这一个部件
- sigmoid σ(z) = 1/(1 + e^(−z)) 把任意实数压到 0 到 1 之间;σ(0) = 0.5,斜率 σ(1 − σ) 在 z = 0 处最大为 0.25
- 逻辑回归就是一个神经元:先算加权和 z = θᵀx,再过 sigmoid 得到 0 到 1 之间的概率
- 线性回归和逻辑回归画成网络是同一张图,只差输出端的激活函数:线性回归用恒等函数,逻辑回归用 sigmoid
- 权重的正负决定把结果推向哪一类,绝对值决定推得多狠;情感例子里 awesome +10、abysmal −10、mediocre −2
- 隐藏层的每个节点都是一个逻辑回归;输出层再对隐藏层的结果做一次逻辑回归,把几种效应耦合起来
- Titanic 输出层:b = .5 × .4 + .8 × .2 = 0.36,σ(0.36) = 0.589,约等于图上的 0.6
- 前向传播五步:(A) 给定 xᵢ;(B) aⱼ = Σᵢ αⱼᵢxᵢ;(C) zⱼ = σ(aⱼ);(D) b = Σⱼ βⱼzⱼ;(E) y = σ(b)
- αⱼᵢ 的下标是「到 j、从 i」;求和从 0 开始,x₀ = z₀ = 1,对应的 αⱼ₀、β₀ 就是偏置
- 深层网络逐层抽象:像素 → 边缘 → 物体部件 → 完整物体,各层学成什么由数据决定
- 四项设计选择:隐藏层数(深度)、每层单元数(宽度)、激活函数类型、目标函数形式
- 没有非线性激活函数,多层加权求和叠起来仍是一个线性函数,和一层没有区别
- sigmoid 两端饱和,斜率最大只有 0.25;反向传播每层乘一次导数,层一深梯度就消失
- Glorot & Bengio 2010:5 层 sigmoid 网络错误率始终约 83%;同为 4 层时 tanh 约 27%,好过 sigmoid 的约 35%
- tanh(z) = 2σ(2z) − 1,值域 [−1, 1],以 0 为中心,两端同样饱和
- ReLU = max(0, z),正半轴导数恒为 1、不饱和;负半轴输出 0、导数 0
- Leaky ReLU = max(0.1z, z),负半轴保留 0.1 的斜率;softplus = log(exp(x) + 1) 是 ReLU 的平滑版
- 多分类输出层用 softmax:yₖ = exp(bₖ) / Σₗ exp(bₗ),每个输出为正,K 个加起来等于 1
- 交叉熵损失要带负号:J = −Σₖ yₖ* log yₖ;课件 (F) 和损失表漏了负号,按原式做梯度下降方向会反
- 回归用平方损失 J = ½(y − y*)²,导数 y − y*;分类用交叉熵(负对数似然),需要在网络末端加 softmax
- 梯度下降朝斜率的反方向走:斜率为负就把 w 调大,斜率为正就把 w 调小
- SGD 更新:θ⁽ᵗ⁺¹⁾ = θ⁽ᵗ⁾ − η_t ∇ℓ,每次只用一个样本的损失
- 链式法则:复合函数的导数等于每一环本地导数相乘,dy/dx = dy/du × du/dx
- 反向传播 = 链式法则沿前向的反方向逐层相乘;每一步写成「上游导数 × 本地导数」,必须先做前向把中间值存下来
- sigmoid 配带负号的交叉熵时 dJ/da = y − y*,于是逻辑回归 dJ/dθⱼ = (y − y*)xⱼ
- 单隐藏层网络:dJ/dβⱼ = (dJ/db)zⱼ,dJ/dzⱼ = (dJ/db)βⱼ,dJ/daⱼ = (dJ/dzⱼ)zⱼ(1 − zⱼ),dJ/dαⱼᵢ = (dJ/daⱼ)xᵢ
- 一个变量影响多条路径时梯度要求和:dJ/dxᵢ = Σⱼ (dJ/daⱼ) αⱼᵢ;课件最后一行把求和放错了位置
- 反向传播只负责算梯度,更新参数靠梯度下降
- 全连接层把 32×32×3 图像拉平成 3072 维,只输出 10 个数就要 30720 个权重,而且丢掉了像素之间的空间关系
- 卷积滤波器的深度总是等于输入深度,只在宽高方向滑动;一个滤波器滑完全图得到一张激活图,输出深度等于滤波器个数
- 滤波器在一个位置做一次 5×5×3 = 75 维点积再加 1 个偏置;同一个滤波器在所有位置共用这组权重,这叫权重共享
- 6 个 5×5×3 滤波器作用在 32×32×3 上:输出 28×28×6,参数 6 × 76 = 456,输出值 4704 个,参数量和输出个数别混
- 课件卷积动画:5×5×3 补一圈零成 7×7×3,两个 3×3×3 滤波器、步长 2,输出 3×3×2;三个通道的点积相加,每个滤波器只加一次偏置
- 不补零时输出边长 = (N − F)/S + 1:(N − F) 是窗口能挪的总距离,除以步长是挪的次数,加 1 是起点本身
- 7×7 输入、3×3 滤波器:步长 1 得 5,步长 2 得 3,步长 3 得 2.33,不是整数,这组设置放不下
- 补零后边长 = (N + 2P − F)/S + 1;步长 1 时补 (F − 1)/2 圈零宽高不变:F = 3、5、7 各补 1、2、3 圈
- 7×7 输入补 1 圈零、3×3 滤波器、步长 1,输出还是 7×7;滤波器边长取奇数,补零才能两边对称
- 不补零时 32 → 28 → 24 每层少 4,缩得太快效果差;32×32×3 用 10 个 5×5 滤波器、步长 1、补零 2,输出 32×32×10
- 每个滤波器有 F·F·D₁ 个权重加 1 个偏置,整层 (F·F·D₁)·K 个权重加 K 个偏置,与输入的宽高无关
- 课件例题:32×32×3 输入、10 个 5×5 滤波器、步长 1、补零 2,输出 32×32×10,参数 760
- 卷积层常见设置:K 取 2 的幂;F = 3, S = 1, P = 1;F = 5, S = 1, P = 2;F = 1, S = 1, P = 0 的 1×1 卷积用来改变深度
- 池化对每张激活图独立操作,输出宽高 = (W₁ − F)/S + 1,深度不变,没有参数;2×2、步长 2 的最大池化把宽高减半
- 最大池化每个窗口只留最大值:4×4 切片 1 1 2 4 / 5 6 7 8 / 3 2 1 0 / 1 2 3 4 经 2×2、步长 2 得 [[6, 8], [3, 4]]
- 典型 CNN:CONV → RELU → CONV → RELU → POOL 重复几次,最后接 FC 输出类别分数;RELU 不改尺寸、没有参数
- 序列任务五种形状:one to one、one to many(看图说话)、many to one(情感分类)、延迟式 many to many(机器翻译)、同步式 many to many(逐帧视频分类)
- RNN 递推 hₜ = f_W(hₜ₋₁, xₜ),每个时间步用同一个函数和同一组参数 W
- Vanilla RNN:hₜ = tanh(W_hh hₜ₋₁ + W_xh xₜ),yₜ = W_hy hₜ
- 展开成计算图后,总损失是各时间步损失之和,W 的梯度是各时间步对 W 的梯度之和
- seq2seq = 编码器(many to one,把输入压成一个向量)+ 解码器(one to many,从这个向量逐步生成),两段参数不同
- 看图说话:CNN 读图,特征接到 RNN 第一个时间步,从 START 开始逐词生成,上一步输出当下一步输入,直到 END
- RNN 的状态更新可以把 W_hh 和 W_xh 拼成一个 W:hₜ = tanh(W (hₜ₋₁ ; xₜ))
- 反向每退一步乘一次 W_hhᵀ 和 tanh 导数;从 h₄ 传回 h₀ 要乘 4 次同一个 W_hhᵀ
- W 的最大奇异值大于 1 梯度爆炸,小于 1 梯度消失
- 梯度裁剪:梯度范数超过阈值时按 阈值 / 范数 缩放,方向不变;课件代码漏了开根号
- 梯度裁剪只治爆炸;消失时梯度已接近 0,要改网络结构,也就是 LSTM
- LSTM 把 hₜ₋₁ 和 xₜ 拼成 2h 维,乘 4h×2h 的 W,切成四段:i、f、o 过 sigmoid,g 过 tanh
- f 遗忘门决定擦多少,i 输入门决定写不写,g(课件称 Update gate)决定写什么,o 输出门决定露多少
- c = f ⊙ c + i ⊙ g,h = o ⊙ tanh(c),先算 c 再算 h
- c 的反向只和 f 逐元素相乘、不乘 W,梯度能流得更远,所以 LSTM 缓解梯度消失
- 多层 RNN:hₜˡ = tanh Wˡ (hₜˡ⁻¹ ; hₜ₋₁ˡ),下一层同一时刻的输出和本层上一时刻的状态拼成 2n 维,Wˡ 是 n×2n
- 专家系统解决通常需要人类专家的特定领域问题,知识要从领域专家那里提取;用户是非专家
- 规则写成 IF(条件)THEN(动作);条件部分被满足时规则被触发(fire),执行动作部分
- 规则型专家系统:知识库存 IF–THEN 规则,数据库存事实,推理机把两者连起来;解释机制回答 how 和 why
- 专家系统五种角色:领域专家、知识工程师、程序员、项目经理、最终用户;领域专家是团队的灵魂
- 知识工程师四步:访谈专家 → 确定推理方法与表示 → 用外壳或编程语言编码 → 帮助测试、修改、整合
- 推荐系统是信息过滤系统,按用户的需求和偏好推荐相关物品,解决信息过载;输出用于排序的相关性分数
- 范式看额外输入:协同用社区数据,基于内容用物品特征,基于知识用知识模型,混合全用
- 协同过滤的假设:过去口味相似的用户,将来口味也相似;打分可以是显式的,也可以是隐式的
- CF 的关键是学习用户和物品的表示(representations)
- 二部图的一条边对应评分矩阵里一个有数的格子;没有边的格子是问号,推荐任务就是预测这些问号
- 矩阵分解 R ≈ P × Qᵀ,r̂ᵢⱼ = pᵢᵀqⱼ,d ≪ min(n, m)
- 损失只在已观测集合 S 上求平方误差,问号格子不是 0 分
- 偏置项 bᵢᵖ、bⱼᵠ 刻画用户打分习惯和物品整体口碑;正确写法 r̂ᵢⱼ = pᵢᵀqⱼ + bᵢᵖ + bⱼᵠ
- λ 是正则化系数,惩罚过大的参数,防止过拟合
- MAE 是误差绝对值的平均,RMSE 是平方误差平均再开根号,对大误差罚得更重;RMSE ≥ MAE,两者都越小越好
- 隐式数据三特征:没有负反馈(缺失分不清是不喜欢还是没见过)、天然有噪声、数值是频次而非偏好强弱
- 评分预测是 pointwise;推荐本质是排序,BPR 是 pairwise:交互过的物品应比没交互过的得分高
- BPR 不把「?」当负例:只比较一个交互过、一个没交互过的物品,同类之间不比较
- BPR 损失 Σ −ln σ(ŷᵤᵢ − ŷᵤⱼ) + λ‖Θ‖²,i 来自 R⁺、j 来自 R⁻
- 代码写成 softplus(neg − pos),和 −ln σ(pos − neg) 完全相等;mean 和 Σ 只差常数倍
- DCG(Y, k, π) = Σᵢ₌₀ᵏ⁻¹ (2^(Y_π[i]) − 1) / log₂(i + 2):分子是增益,分母是位置折损
- i 从 0 起,第 1 名分母 log₂2 = 1 不打折,越靠后打折越多
- NDCG = DCG(π) / DCG(πₛ),πₛ 是把真实评分从大到小排的理想排列,结果在 0 到 1 之间,1 表示排序完美
- 评分预测用 MAE/RMSE,越小越好;排序用 NDCG@K 等,越大越好
- 其他排序指标:HR、MRR、MAP、Recall、Precision
- one-hot 乘嵌入矩阵 = 取出矩阵的某一行,嵌入层的本质是查表;统一写法 ŷᵤᵢ = f(pᵤ, qᵢ)
- MF 的交互函数是固定内积,NCF 用多层网络学交互函数:z₁ = [pᵤ; qᵢ],输出过 σ
- MF 隐因子相互独立、泛化好;MLP 隐因子不独立、表示能力更强但泛化能力未知
- NeuMF 融合 GMF(逐元素乘)和 MLP(拼接),两支各学一套嵌入,输出拼接后进 NeuMF 层
- 推荐引擎是多级漏斗:召回 → 排序 → 后排序,候选从千万级逐级缩到几十
- LLM 是无状态的文本到文本转换器,自回归地预测 token;Agent 是围绕 LLM 的编排层,LLM 当推理引擎
- LLM 只回答;RAG 先检索资料再回答;Agent 还带记忆和工具,能行动并根据结果循环
- Agent 六特征:自主行动(可带人在环)、记忆、LLM 决策、感知环境、使用工具、协作
- ReAct 循环:Think → Act → Observe,模型看上一步结果决定下一步
- Prompt → Context → Harness 三层:我该怎么问、模型该看到什么、整个环境该怎么设计;外层包住内层
- 无状态指 LLM 每次调用只看这次的输入;Agent 的记忆由外层系统保存、再喂回给模型
- 五级:L1 对话、L2 工作流、L3 工具调用(ReAct)、L4 多 Agent 协作、L5 自主自进化;课件判断当前产品大多在 L3–L4
- L2 是人预先画好流程,模型只在节点上做判断;L3 是模型在 Think → Act → Observe 循环里自己定下一步
- 主从式:主 Agent 拆任务、子 Agent 各有独立上下文并行;网状式:共享任务列表和上下文,成员直接通信、自己认领任务
- 课件把主从式放在 L3、网状式放在 L4
- 工程四层:Prompt → Context → Harness → Coordination;AGENT = MODEL + HARNESS
- 共享任务列表 + 成员认领 + 消息与任务双驱动 + 角色规范,是网状多 Agent 协作的实现方式
- 上下文超阈值就压缩归档、留索引;记忆存在外部、跨会话保留,分用户画像、情景、语义
- 上下文卸载的三种触发条件:消息条数阈值、累计 token 阈值、超长单条消息阈值
- 上下文是单次调用送进 LLM 的内容,有窗口上限;记忆存在外部,需要时检索回来
- 自进化的两类信号:执行异常(超时、接口报错、执行中断)和用户纠正(「不对」「错了」)
- 自进化要有治理:经验评分、人工审核、版本管理与回滚
- OpenClaw 的四个局限:没有多租户;长任务成功率、安全性和效率低;上下文膨胀;Skill 生态大但质量差
- 角色是一份职责,一个人可以担任多个角色
- Agent 是配了工具和任务的 AI 助手;多 Agent 分担工作、交换结果;人设目标、审重要选择
- 依赖:任务需要别人的产出才能继续
- 任务 DAG:数据 → 三条并行分析线 → 独立质检 → 预测 → 报告;质检不过就返工
- 三种参与方式:给目标约束、开工前讨论、中途质疑并确认
- 开工前系统请人决定数据来源、团队结构、分析深度,人批准后才执行
- 最大回撤是从此前高点算起的最大跌幅,总收益为正时回撤也可能很大
- 输入可能限制项目目的时就质疑它
- 确认的改动写进带版本号的清单,旧方案留作对照组
- 和 60/40 基准对比;样本内比较不代表未来表现
- 独立测试角色配验收清单,问题报告写预期、实际和复现步骤
- 语言模型四代:统计 LM(1990s)→ 神经 LM(2013)→ 预训练 LM(2018)→ LLM(2020),从专门任务助手走向通用任务求解器
- 生成模型的思路:从简单分布采随机噪声 z,学一个变换把它变成像训练数据的样本
- GAN 判别器 D(x) = p(真|x) 区分真图假图;生成器 x = G(z) 造假图骗判别器
- GAN 训练好的标志:判别器分不出真假时,生成器就拟合了真实数据分布
- 扩散模型:前向过程逐步加噪直到纯噪声;反向过程用网络 ε_θ(x_t, t) 估计噪声、逐步去噪生成
- GAN 不能靠重建来学,因为不知道哪个 z 对应哪张图,所以请判别器当裁判
- 语言模型就是预测下一个 token:P(y_i | y_{1:i-1}, x_{1:m}, Θ)
- RNN 局限一:训练慢,不能并行,位置 t 的计算要等 t-1 算完
- RNN 局限二:长上下文差,两个 token 相隔 k 个位置,第一个的信息就有 k 次机会被从隐藏状态里抹掉
- Transformer 四个组件:输入嵌入、位置编码、自注意力、前馈网络(FFN),能捕捉长距离依赖
- 缩放律:模型越大测试损失越低,但数据量不够时曲线会走平,数据成了瓶颈
- 大模型的涌现能力:上下文学习(ICL)、思维链(CoT)、零样本思维链
- 三种范式:预训练 + 微调(BERT、T5)每个任务一个专门模型;提示(GPT-3)靠换提示做不同任务;指令微调(FLAN)在很多任务上用指令微调,再做没见过的任务
- 提示不更新模型参数,微调要更新
- 提示三步:套模板把任务改成填空、定标签词映射、直接用语言模型填词
- p(y|x) = exp(w_{M(y)}·h_[MASK]) / Σ exp(w_{M(y')}·h_[MASK]):比较各标签词填进空格的分数再做 softmax
- FT → FS → 1S → 0S:越往前任务专门效果越强,越往后越方便、越通用、要的数据越少;FT 通常要 1k–100k 条标注
- 上下文学习(ICL):靠提示里的示范学会任务,不更新参数;名字出自 GPT-3 论文
- 思维链(CoT):引导模型写出逐步解题过程,多步推理的最终答案更准
- 标准提示的示范只给答案,CoT 的示范写出中间步骤;食堂苹果题标准提示答 27 ✗,CoT 答 23 − 20 = 3、3 + 6 = 9 ✓
- 零样本思维链:不给示范,只在答案前加「Let's think step by step」,也能引出步骤
- LLM 的风险:幻觉、缺领域知识、隐私、不一致
- RA-LLM:参数记不住长尾和新知识,重训代价大,改为先检索外部知识库再生成
- 训练数据质量低、通用、固定、难更新;外部知识库质量高、专门、可扩展、易更新:闭卷考 vs 开卷考
- 提示工程四要素:TASK 任务、CRITERIA 标准、CONSTRAINTS 约束、FORMAT 格式
- 要求引用证据不会凭空提供证据,相关资料必须另外放进输入
- 上下文工程四步:COLLECT 收集、SELECT 挑选(输入有长度上限)、ORGANIZE 整理(标来源、留日期)、UPDATE 更新
- RAG 只结合检索和生成;上下文工程管理模型收到的全部输入
- Harness 是模型外面的软件:RUN 调模型、执行工具、保存进度;CONTROL 查权限、限时间成本和重试;CHECK 对照来源核结论、标出未解决的问题
- 工具调用循环:模型发工具请求 → harness 检查并执行 → 更新上下文 → 重复、停止或询问;检查降低风险但不保证正确
- 三层排查:任务不清改提示;缺证据补上下文;动作失败或打转查 harness;提示是上下文的一部分,harness 管上下文和执行
- LLM 用于推荐的三项潜力:语言理解与生成、泛化、推理
- 推荐里的用户和物品用离散 ID 表示,交互(点击、点赞、订阅)里有丰富的协同知识;大模型处理长文本表现不好
- 三种 ID 表示:Trivial Indexing(标题、编号、特殊 token)、Whole-word Embedding(如 P5)、Soft Indexing(编码器 + 投影成连续向量)
- TokenRec:把 GNN 学到的用户、物品向量做向量量化,变成离散 token 接进大模型;K-way 编码器加掩码提高鲁棒性和泛化
- 可信生成式 AI 四个维度:安全与鲁棒、公平(不歧视)、可解释、隐私
- 外部知识带来新的攻击途径:RAG 投毒越狱让模型照着被投毒的文档回答危险问题
- vibe coding 用自然语言描述任务、由 agent 生成和迭代代码,人负责说清需求和检查结果,主要失败方式是隐藏错误不断累积
- agent harness 是模型、工具、上下文组成的循环:模型决定下一步动作,工具读文件、改代码、跑命令,工具结果写回上下文供下一轮使用
- 提示词五要素:Goal 程序要做什么、Context 用哪些文件和环境、Constraints 用什么方法和限制、Deliverables 交出哪些文件、Acceptance 怎么验证做对了
- agent 的回答要和你自己打开的文件对照:两份 CSV 应是 659 行和 60 行,缺 Toy-C / Large / seed 4 / epoch 100 这一条
- 误差带是跨 seed 的均值 ±1 样本 SD(ddof=1,除以 n − 1),同一 seed 的 checkpoint 不算独立运行;缺失值不插补,写明 n,n < 2 只画均值
- 测试结果用测试集的均值,不能拿验证集上的最高分顶替
- 任务提示词写这一次的目标和验收,AGENTS.md 写项目一直成立的约定,SKILL.md 写一类任务可复用的流程
- 一个 skill 由 name、description 和步骤组成,可附带脚本、参考资料和模板;具体文件、目标和成功条件仍要你提供
- 找 skill 的来源:官方示例看 OpenAI Skills 和 Anthropic Skills 仓库,社区发现用 skills.sh 并顺着链接查源仓库
- 上游 skill 要整包安装,ccf-visual-composer 依赖 ccf-humanization 和 ccf-common,只复制 SKILL.md 会断链;skill 管通用步骤,数据、版式和导出格式仍由提示词给
- AGENTS.md 放在相关项目文件夹里,能否被自动发现和继承取决于客户端,开工前先让 agent 读一遍规则
- 延伸的三种扩展:hook 在代码改动后自动跑验证脚本,MCP 把 agent 连到外部工具,subagent 把独立的审查分给不同 agent 并行做
- 余弦相似度 cos(q, d) = (q · d) / (‖q‖₂ × ‖d‖₂),只看两个向量的方向,取值在 −1 到 1 之间,越接近 1 越相似
- 向量做过 L2 归一化(长度变成 1)以后,点积就等于余弦相似度,所以课件前面写 dot product、后面写 cosine score 是同一个分数
- 双编码器把查询和论文文本各自经过同一个编码器和池化得到一个向量,再用余弦相似度比较两个向量
- 论文向量在启动时批量编码一次并留在内存,每次查询只编码查询本身;每次都重编全部论文会让每个查询多等全部论文的编码
- 检索设置要在计划阶段定死:CPU 上能跑的小模型、嵌入标题加摘要、最多返回 10 条、同分按 paper_id 升序、空查询返回 HTTP 400
- vibe coding 四阶段:Set the goal 定目标和约束、Refine the plan 定选项和决定、Build 改代码出能跑的结果、Test and revise 拿证据决定下一处修改
- 后端接口 GET /api/search 用 q 参数传查询,按名次返回 paper_id、title、authors、year、abstract、score 六个字段
- 测连通时先让 agent 说出预期的 HTTP 状态和响应,再跑一条 curl 拿实际结果对照
- 照截图做前端先拆出搜索控件、结果列和行操作,逐个对应到已有接口或浏览器状态,再照清单搭页面
- 收藏和移除用浏览器存储,刷新页面后收藏的 paper_id 仍在,移除一篇后导出的 CSV 只含剩下的论文
- 测试覆盖语料加载、检索相关性、前 10 排序与同分、接口输入校验、阅读清单持久化、CSV 导出六类,失败项和没跑成的检查也要报告
- 相关性判断要在跑检索之前定好,Recall@10 = 前 10 条里命中的相关论文数 ÷ 事先判定的相关论文总数