← COMP5511 全部讲次
L04a-3 · 第 4 周

L04a-3 无监督学习:没有答案时,从数据里找结构

从零讲无监督学习:把标签拿掉只剩 x,目标变成找结构;一步一步跑一遍 k-means 聚类,再看词向量怎样把词变成点、把关系变成方向,以及 t-SNE 怎样把高维数据压到平面上。

一句话版

无监督学习手里只有数据没有答案,它要做的是从数据里找出结构:哪些点是一伙的,哪些词意思相近,高维数据大致长什么形状。

前两页讲的是监督学习,每个样本都带着 y。这一页把 y 整个拿掉。读之前最好先看过 L04a-1,知道 x 和 y 各指什么。

先认识这几个词

词 全称 / 读法 一句人话
无监督学习 unsupervised learning 只有 x 没有 y,自己找结构
聚类 clustering 把相似的点分成几堆
簇 cluster 分出来的一堆
k-means 读「k 均值」 最常用的聚类算法,k 是要分几堆
中心 centroid 一堆点的平均位置
词向量 word embedding 把每个词变成一串数,意思近的离得近
降维 dimensionality reduction 把很多维的数据压到两三维,好画出来看

一个类比:一抽屉没贴标签的照片

你翻出一抽屉老照片,背面什么都没写。没人告诉你哪张是哪年、在哪拍的,你还是能把它们分成几摞:海边的一摞,过年的一摞,毕业典礼的一摞。

你靠的是照片之间的相似:背景像不像,人物像不像。这就是聚类。分几摞是你自己定的,你也可以只分「室内」和「室外」两摞,同样说得通。

类比在哪里失效:

  • 你看照片时自带常识,知道沙滩和海浪是一回事。算法只看到一串数,「像不像」全靠你事先定的距离怎么算。
  • 你分完能给每摞起名字。算法分出来的只是「第 1 簇」「第 2 簇」,这一簇代表什么,还得人去看。

从零讲起

1. 无监督学习:把标签拿掉以后

它解决什么问题

给数据打标签很贵:一张图要有人看,一封信要有人判。很多时候你只有一大堆原始数据,没人标过。无监督学习就是在这种情况下,看看数据自己有什么规律。

直觉

同一批房子,监督学习的时候每个点都知道自己是 house 还是 townhouse。把这个答案抹掉,点的位置一点没动,你仍然看得出它们大致挤成几团。

一步一步看

目标:把同一批房子的标签换成一样的叉,看没有答案以后能问的问题怎样变成分几堆、谁挨得近。

  1. 左边是监督学习的样子:每个点有形状,三角是 house,圆是 townhouse。

  2. 右边是同一批点,位置不变,形状全换成一样的叉,标签没了。

    左右两张散点图,点的位置完全一样:左边监督学习,三角是 house,圆是 townhouse;右边无监督学习,所有点都画成叉,只剩 x

  3. 现在没有答案可学,能问的问题变了:这些点自然地分成几堆?哪些点挨得近?

怎么判断

拿到一个任务,看数据集长什么样:

  • 监督学习:(x⁽¹⁾, y⁽¹⁾), …, (x⁽ⁿ⁾, y⁽ⁿ⁾)
  • 无监督学习:x⁽¹⁾, …, x⁽ⁿ⁾

意思是:数据里有没有 y,是区分两者的唯一判据。课件给无监督学习的目标写的是 find interesting structures,并且特意加了一个词 vaguely-posed:定义模糊。「找到的结构好不好」没有标准答案可对。

常见误解

以为无监督学习就是「还没来得及标的监督学习」

它要回答的是另一类问题。聚类、词向量、降维都不是在猜某个 y,它们找的是数据内部的结构,本来就没有一个「正确标签」可以去标。

试一下

一家网店有一百万条购物记录,没有任何人工标注。想把顾客分成几类做营销,这是监督还是无监督?

无监督。数据只有 x(每个顾客买了什么),没有 y,要做的是把相似的顾客分成堆,也就是聚类。

2. 聚类和 k-means:一步一步分成几堆

它解决什么问题

无监督学习里最常见的任务是聚类:把相似的点分到一起。课件点了 k-means 这个名字,没讲算法怎么跑。这一节用六个点把它完整跑一遍。

从哪来(补充)

k-means 这个名字最早是 MacQueen 在 1967 年用的,想法可以追溯到 Steinhaus 1956 年的工作。今天的标准算法来自贝尔实验室的 Stuart Lloyd,他 1957 年为脉冲编码调制想出了它,直到 1982 年才正式发表。

出处:Wikipedia: k-means clustering

直觉

先随便放 k 个中心。每个点找离自己最近的中心,跟它站一队。每队站好以后,把中心挪到这队人的正中间。中心一挪,有的点会发现别的中心更近,就换队。反复几次,没人换队了,就分好了。

一步一步看

目标:用六个点和两个随手挑的初始中心跑 k-means,看几轮归队、挪中心后怎样分回左下和右上两堆。

六个点:P1(1, 1)、P2(2, 1)、P3(1, 2)、P4(6, 5)、P5(7, 5)、P6(6, 6)。分两堆,k = 2。

  1. 随手挑两个点当初始中心:c1 放在 P1,c2 放在 P3。

    k-means 第 1 步:坐标图上六个灰点,左下三个 P1、P2、P3,右上三个 P4、P5、P6;c1 放在 P1 位置,c2 放在 P3 位置,两个中心用青绿十字标出

  2. 每个点归给最近的中心。P1、P2 离 c1 近,归 c1。P3 就在 c2 上。右上三个点离 c2 稍近一点,也归了 c2。

    k-means 第 2 步:P1、P2 画成三角归 c1,P3、P4、P5、P6 画成圆归 c2,本步变化的归属用青绿标出

  3. 中心挪到各自那队的平均位置。c1 是 P1、P2 的平均,到 (1.5, 1)。c2 是四个点的平均,到 (5, 4.5),被右上三个点拉了过去。

    k-means 第 3 步:c1 挪到 1.5、1,c2 挪到 5、4.5,两个中心用青绿十字标出,c2 已经靠近右上三个点

  4. 再归一次。P3 现在离 c1 更近,换到 c1 那队。两队变成 {P1, P2, P3} 和 {P4, P5, P6}。

    k-means 第 4 步:P3 改画成三角归 c1,左下三个三角、右上三个圆,变化用青绿标出

  5. 再挪中心:c1 到 (4/3, 4/3),c2 到 (19/3, 16/3)。再归一次,没有点换队,算法结束。

    k-means 第 5 步:c1 在左下三个点中间,c2 在右上三个点中间,青绿十字标出;右侧写重新归属后没有点换队,算法结束

怎么算

「最近」用距离来量。为了少开根号,比较时直接用距离的平方,点 (a, b) 到中心 (p, q):

距离² = (a − p)² + (b − q)²

中心更新取本队所有点的平均:

新中心 = (本队 x 坐标之和 ÷ 人数, 本队 y 坐标之和 ÷ 人数)

意思是:k-means 只做两个动作,归队和挪中心,交替进行。每做一轮,所有点到自己中心的距离平方总和都不会变大,所以它一定会停下来。

常见误解

以为 k-means 能自己算出该分几堆

k 是人给的。课件把同一批点先圈成三堆,翻一页又圈成两堆,两种都说得通。

同一批点的两种聚类:左图 k 等于 3,圈成三个灰色椭圆;右图 k 等于 2,一个青绿长椭圆从左下伸到右上,另一个盖住右下的点;底部说明堆数 k 由人定

以为初始中心放哪都一样

不一样。初始中心放得不好,可能停在一个不太好的分法上。上面的例子里两个中心都放在左下角,好在多跑几轮就纠正过来了。

试一下

两个中心在 (0, 0) 和 (10, 0),点 (4, 3) 归哪个?

到 (0, 0):16 + 9 = 25。到 (10, 0):36 + 9 = 45。25 更小,归 (0, 0)。

3. 词向量:把词变成点,把关系变成方向

它解决什么问题

程序要处理文字,得先把词变成数。最笨的办法是给每个词编个号,可编号看不出「dog」和「puppy」意思相近。词向量给每个词一串数,让意思相近的词在空间里挨得近。

从哪来(补充)

课件点名的 Word2vec 是 2013 年 Google 的 Mikolov、Chen、Corrado、Sutskever、Dean 等人提出的。课件同页还列了 GloVe,是另一组研究者稍晚提出的同类方法。

出处:Wikipedia: Word2vec

直觉

经常出现在相同上下文里的词,意思大概也相近。「小狗在叫」「小猫在叫」,dog 和 cat 周围的词差不多,它们的向量就会被推到一起。

一步一步看

目标:先把词变成一串数再压到平面上,看意思相近的词怎样挨在一起,男变女的关系怎样成了同一个方向。

  1. 每个词先变成一串数。课件的示意图里,dog、puppy、cat、houses 各对应 7 个数。

  2. 7 维画不出来,就压到二维:每个词成了平面上的一个点。dog、puppy、cat 挨在一起,houses 离得很远。

  3. 再看 man、woman、king、queen 四个点。从 man 到 woman 画一条箭头,从 king 到 queen 再画一条,两条方向相同。

    词向量二维示意:左图 man 到 woman、king 到 queen 各有一条青绿虚线箭头,两条方向相同;右图 dog、puppy、cat 三个点挨在一起,houses 离得很远

  4. 方向相同说明「男变女」这层关系被编进了同一个方向。课件把这两件事概括成:词编码成向量,关系编码成方向。

怎么算

那条平行的箭头可以写成向量运算:

king − man + woman ≈ queen

意思是:从 king 出发,减掉「男」的方向,加上「女」的方向,落点离 queen 最近。课件图里画了箭头,没写这个式子。

常见误解

以为词向量有人工标注才学得出来

课件图的左下角是维基百科的标志,旁边写着 Unlabeled dataset。训练只用了大量普通文本,没有人告诉它哪两个词意思相近,所以它归在无监督学习。

试一下

按同样的思路,Paris − France + Italy 最可能落在哪个词附近?

Rome。从首都减掉国家、加上另一个国家,落到那个国家的首都。这个例子课件没给,用来检查你是否理解「关系是方向」。

4. 降维:把高维数据压到平面上看

它解决什么问题

一张手写数字图片有 784 个像素,就是 784 维的点。人看不了 784 维的空间。降维把它压到两维,画成散点图,一眼就能看出数据大致分成几团。

从哪来(补充)

课件用的方法叫 t-SNE。它的前身 SNE 是 Hinton 和 Roweis 在 2002 年提出的,t-SNE 由 van der Maaten 和 Hinton 在 2008 年的论文 Visualizing Data Using t-SNE 中提出。

出处:Wikipedia: t-SNE

直觉

像给一个立体的地球仪拍一张平面照片。维度少了,信息难免丢一些。降维要保住最重要的那部分:原来离得近的点,压完还离得近。

一步一步看

目标:把 784 维的手写数字图片压到平面上再按真实数字上色,看不用标签也能让同一个数字聚成一团。

  1. 每张手写数字图片是 28 × 28 的灰度图,把像素排成一列,就是一个 784 维的点。
  2. 降维算法只看这些点之间的远近,不看它们是哪个数字。
  3. 算法给每张图一个二维坐标,画到平面上。
  4. 画完以后,按真实数字给点上色,检查效果:同一个数字的点自己聚成了一团。
步骤 每张图是什么 用没用到标签
原始数据 784 个数 没有
降维以后 2 个数 没有
上色检查 2 个数 + 颜色 只用来看效果

怎么判断

问一句:降维这一步用到 y 了吗?

意思是:没用到,所以它是无监督学习。课件图上的颜色是事后按真实数字上的,只为让人看清效果,算法本身没见过这些颜色。

常见误解

以为降维就是把多余的维度直接删掉

t-SNE 不是挑几个像素留下。它重新算出一组二维坐标,目标是让原来离得近的点压完还近。压完的两个坐标没有「第几个像素」这种含义。

试一下

一张 10 × 10 的灰度图,排成一列是几维?

100 维。每个像素一个数。

把它们串起来

无监督学习只有 x,没有 y,它要找的是数据里本来就有的结构。

结构有几种。点和点之间分堆,是聚类,k-means 用「归队、挪中心」两个动作反复做,直到没人换队。词和词之间的远近和方向,是词向量,「男变女」这种关系成了空间里的一个方向。整批数据在高维空间里的形状,是降维要压到平面上让人看的东西。

三件事有一个共同点:结果好不好没有标准答案。分三堆还是两堆,k 是人给的;词向量好不好,要看用在别的任务上效果如何;降维后的图像好不好,也得人去看。课件管这叫 vaguely-posed。

监督学习的 y 是人事先给好的。下一页的强化学习走第三条路:y 也没有,但可以自己去试,从环境给的奖励里学。

课件里的坑

  • [课件有误] p.37 标题写的是 k-mean clustering,算法名是 k-means,考试答题按 k-means 写。
  • [课件留白] p.36 和 p.37 是同一组点的两种聚类,一个三堆一个两堆。课件没说哪个对,因为都对。堆数 k 是人给的。
  • [课件留白] p.37 只点了 k-means 的名字,没讲算法步骤。本页的六点例子是自编的,用来把「归队、挪中心」跑一遍。
  • [读图提醒] p.39 t-SNE 图上的颜色是按真实数字事后上的,算法本身没用标签,不要据此把降维当成监督学习。

课后 10 分钟:考点复习

这 10 分钟怎么用:先合上页面,在纸上默写 k-means 的两个动作。然后对着完整例题,把六个点自己跑一遍,每轮写出距离平方和新中心。最后过一遍课件例题和变式题。

必背

  1. 无监督学习的数据集只有 x⁽¹⁾, …, x⁽ⁿ⁾,没有标签 y,目标是找有意思的结构,课件说这个目标是 vaguely-posed
  2. 同一份数据可以分三簇也可以分两簇,簇数由人定;正式名称是 k-means
  3. k-means 先定 k 个中心,反复做两步:每个点归给最近的中心,中心挪到本簇的平均位置,直到归属不再变化
  4. 词向量把词编码成向量、把词之间的关系编码成方向,训练只用大量无标签文本,代表算法 Word2vec 和 GloVe
  5. 降维把高维数据压到两三维,同时保住点和点之间的远近关系;t-SNE 把 784 维的手写数字图片压到二维,同一数字自动聚成一团

课件例题

例 1(课件 p.35):同一批房子,监督和无监督两张图差在哪?

题面:左图 supervised 是三角 house 和圆 townhouse;右图 unsupervised 是同样位置的点,全部画成叉。

两张并排散点图,纵轴都是占地面积:左图 supervised 用蓝三角表示 house、橙圆点表示 townhouse;右图 unsupervised 是同样位置的点,全部画成蓝叉,没有图例
图片来源:COMP5511 Lecture 4 Machine Learning Part I-1, p.35
提示

点的位置变了没有?变的是什么?

解答

位置完全一样,变的只是标签被抹掉了。左图数据集是 (x, y) 对,右图只剩 x。目标也从「预测 y」变成「找结构」。

例 2(课件 p.36–37):同一批没有标签的点,分三簇和分两簇哪个对?

题面:p.36 把点圈成三个椭圆,p.37 把同一批点圈成两个椭圆,标题写 k-mean clustering。

无标签散点图,纵轴占地面积、横轴 0.5 到 3.0;红色椭圆把点圈成三簇:左下一簇、右上一簇、右下一簇
图片来源:COMP5511 Lecture 4 Machine Learning Part I-1, p.36
同一批无标签散点,用两个蓝色椭圆圈成两簇:一个斜着从左下延伸到右上,另一个横着覆盖底部一排点
图片来源:COMP5511 Lecture 4 Machine Learning Part I-1, p.37
提示

没有 y,拿什么去判对错?

解答

两种都说得通。没有 y 就没有标准答案可对,簇的个数和「相似」的定义都要人来定,这就是课件说的 vaguely-posed。另外标准名称是 k-means,课件漏了 s。

例 3(课件 p.38):词向量为什么算无监督学习?图里两条平行虚线说明什么?

题面:图里 dog、puppy、cat、houses 各有一个 7 维向量,压到二维后前三个挨在一起;man→woman 和 king→queen 两条虚线平行。左下角是维基百科的标志,写着 Unlabeled dataset。

词向量示意:dog、puppy、cat、houses、man、woman、king、queen 各有一行 7 维数值;降到二维后右上图里 puppy、dog、cat 箭头挨在一起,houses 单独朝上;右下图 man→woman 和 king→queen 两条黑色虚线平行
图片来源:COMP5511 Lecture 4 Machine Learning Part I-1, p.38
提示

训练语料有没有人工标签?两条虚线代表的是哪一层关系?

解答

训练只用了大量文本,没有任何人工标签,所以是无监督。两条虚线平行,说明「男变女」这层关系被编码成了同一个方向,对应 king − man + woman ≈ queen。

完整例题

题面(自编,对应课件 p.37 的 k-means):六个点 P1(1, 1)、P2(2, 1)、P3(1, 2)、P4(6, 5)、P5(7, 5)、P6(6, 6)。用 k-means 分两簇,初始中心 c1 = P1,c2 = P3。用距离的平方比较远近,写出每一轮的归属和新中心,直到停止。

解法:

  1. 第 1 轮归队,中心 c1 = (1, 1),c2 = (1, 2)。逐点算到两个中心的距离平方:
    • P1:0 和 1,归 c1
    • P2:1 和 2,归 c1
    • P3:1 和 0,归 c2
    • P4:41 和 34,归 c2
    • P5:52 和 45,归 c2
    • P6:50 和 41,归 c2
  2. 第 1 轮挪中心:c1 = P1、P2 的平均 = (1.5, 1);c2 = P3 到 P6 的平均 = ((1+6+7+6)/4, (2+5+5+6)/4) = (5, 4.5)。
  3. 第 2 轮归队:
    • P1:0.25 和 28.25,归 c1
    • P2:0.25 和 21.25,归 c1
    • P3:1.25 和 22.25,换到 c1
    • P4:36.25 和 1.25,归 c2
    • P5:46.25 和 4.25,归 c2
    • P6:45.25 和 3.25,归 c2
  4. 第 2 轮挪中心:c1 = ((1+2+1)/3, (1+1+2)/3) = (4/3, 4/3);c2 = ((6+7+6)/3, (5+5+6)/3) = (19/3, 16/3)。
  5. 第 3 轮归队:P3 到 c1 是 5/9,到 c2 是 356/9;P4 到 c2 是 2/9,到 c1 是 317/9。其余点离得更明显,没有点换队。
  6. 归属不变,算法停止。结果是 {P1, P2, P3} 和 {P4, P5, P6}。

要点:第 1 轮因为两个初始中心都在左下角,右上三个点被迫跟着 P3 一队;中心挪动一次以后就纠正过来了。

答题格式:每一轮分两块写,「归队」列出每个点到各中心的距离平方和归属,「挪中心」写出平均的算式。最后一句写停止条件。

变式题(先自己做)

(1) 同样六个点,k = 2,初始中心改成 c1 = P1、c2 = P5。跑到停止,结果和完整例题一样吗? (2) 自编情境:一条中心在 (2, 2),另一条在 (8, 8)。点 (5, 6) 归哪个? (3) 说出两个原因,解释为什么无监督学习的结果「好不好」不容易判断。

提示

(1) 两个中心一开始就在两团里,看看第 1 轮有没有点归错。(2) 算两个距离平方。(3) 想想 y 不在了以后,你能拿什么来对答案。

判分点与答案(非官方评分标准)

判分点:① (1) 写出第 1 轮归属和新中心;② (2) 写出两个距离平方;③ (3) 至少一条要点到「没有 y」。

(1) 第 1 轮:P1、P2、P3 离 c1 近,P4、P5、P6 离 c2 近。新中心 (4/3, 4/3) 和 (19/3, 16/3)。再归一次不变,停止。结果一样,只是一轮就到了。

(2) 到 (2, 2):9 + 16 = 25。到 (8, 8):9 + 4 = 13。归 (8, 8)。

(3) 没有 y 可对,找不到唯一的正确答案;簇数 k 和「相似」怎么算都由人定,换一种定法就会得到另一种同样合理的结果。

闪卡自测

1. 无监督学习的数据集长什么样?

只有 x⁽¹⁾, …, x⁽ⁿ⁾,没有 y(p.35)。

2. 课件说无监督学习的目标是 vaguely-posed,什么意思?

定义模糊,没有标准答案。同一组点分三堆和分两堆都可以(p.35–37)。

3. k-means 反复做的两个动作是什么?什么时候停?

每个点归给最近的中心;中心挪到本簇的平均位置。归属不再变化时停(p.37)。

4. k-means 的 k 是谁定的?

人定的,算法不会自己决定分几堆(p.36–37)。

5. 词向量把什么编码成什么?

词编码成向量,词之间的关系编码成方向(p.38)。

6. 词向量为什么算无监督学习?

训练只用大量无标签文本,课件图上写着 Unlabeled dataset(p.38)。

7. t-SNE 图上的颜色是算法分出来的吗?

不是。颜色是事后按真实数字上的,方便看效果;算法只用了图片本身(p.39)。

下一讲

下一页 L04a-4 讲第三种学习:数据既不是给好的,也不只有 x,要靠和环境打交道自己攒出来。最后看 RLHF 怎样把三种学习叠在一个系统里。

下一讲 →
L04a-4 L04a-4 强化学习与 RLHF:数据靠自己试出来

个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。