L03b 碰数据之前:手上有数据,不等于拿到了使用许可
从零讲清取数前的规矩:ASA 准则的条款号怎么读,动手前要定的四件事,只取必要的和新用途前停一下,隐私三层,以及跟着数据走的数据护照。
一句话版
拿到一份数据,只说明技术上能算,不说明伦理上能用。动手之前,先说清为了什么、谁允许了什么、数据从哪来、撑不撑得起这个问题。
上一页 L03a 讲 integrity 这个词和职业整合性的四个构成。这一页把其中的「胜任」和「有效方法」拆成取数前的具体动作。
先认识这几个词
| 词 | 全称 / 读法 | 一句人话 |
|---|---|---|
| ASA | American Statistical Association,美国统计协会 | 这一段规则出自它的职业伦理准则 |
| provenance | 来源、出处 | 这份数据从哪来、怎么来的、改过什么 |
| 二次使用 | repurposing | 把为甲目的采集的数据拿去做乙 |
| 关联 | linkage / join | 把两份数据按同一个人对上,拼成一份 |
| 去标识 | de-identify | 去掉或改写能认出是谁的字段 |
| 重识别 | re-identification | 去标识后的数据又被人认出是谁 |
| 数据护照 | data passport | 跟着数据走的一份记录,写清它能撑什么、不能撑什么 |
一个类比:替邻居保管一把备用钥匙
还是上一页那把钥匙。邻居出差,请你帮忙浇花。
进门前先说清这趟是去浇花,对应动手前先定目的和许可。只拿浇花那一把、不拿一整串,对应只取必要的。顺手帮忙收个快递看着无害,可那是一个新决定,得再问一次。
钥匙要放在只有你能拿到的地方,不随手借给朋友,对应隐私保护。每次进出留张便条,写清动过什么、哪些没检查,对应数据护照。
类比在哪里失效:
- 邻居能当面说清「只浇花」。数据当初的同意范围常常写在没人细读的条款里,要自己去查。
- 便条只给邻居一个人看。数据护照要写到一个陌生的、合格的同行也能看懂。
从零讲起
1. 先补一块:ASA 准则和条款号(补充)
它解决什么问题
这一段课件每页页脚都印着一串条款号,比如 B.1、D.7、E.1–E.4,却没说字母代表什么。看不懂这串号,就没法回答「依据是哪一条」。这一节先补上这张坐标表。
从哪来(补充)
这些条款出自美国统计协会(ASA)的《Ethical Guidelines for Statistical Practice》。现行版由 ASA 董事会在 2022 年 2 月批准,正文分八条原则,字母 A 到 H 就是原则编号,每条原则下面再分若干条目(element)。
出处:ASA: Ethical Guidelines for Statistical Practice
直觉
字母是原则,点后面的数字是这条原则下的第几条。所以 D.7 读作「原则 D 的第 7 条」。
| 字母 | 原则 | 管什么 |
|---|---|---|
| A | Professional Integrity and Accountability | 职业正直与问责 |
| B | Integrity of Data and Methods | 数据与方法是否站得住 |
| C | Responsibilities to Stakeholders | 对委托方、利益相关方的责任 |
| D | Responsibilities to Research Subjects / Data Subjects | 对被记录的人的责任 |
| E | Responsibilities to Members of Multidisciplinary Teams | 对团队成员的责任 |
| F | Responsibilities to Fellow Practitioners and the Profession | 对同行和整个职业的责任 |
| G | Responsibilities of Leaders, Supervisors, and Mentors | 领导、主管与导师的责任 |
| H | Responsibilities Regarding Potential Misconduct | 对可能失范行为的责任 |
八条原则共 72 个 element。这一讲主要引 B、C、D、E、F 五条。
一步一步看
目标:拿页脚「C.7; D.4, D.7, D.9」练一次读号,看一页怎样同时归属两种责任。
拿隐私那一页的页脚「C.7; D.4, D.7, D.9」练一次读号。
- 先拆字母:这里出现了 C 和 D 两个字母。
- 再对表:C 是对利益相关方的责任,D 是对数据主体的责任。
- 最后读出页面的性质:这一页同时管两种关系。
| 步 | 做什么 | 这个页脚 |
|---|---|---|
| 1 | 拆出字母 | C、D |
| 2 | 对上原则 | C 对委托方负责,D 对被记录的人负责 |
| 3 | 读出页面性质 | 隐私既是对客户的保密义务,也是对数据主体的保护义务,所以双重归属 |
怎么判断
看到一个条款号,先看字母。引 B 的页在管「方法对不对」,引 D 的页在管「对被记录的人负不负责」,引 C、E、F 的页在管「对人的关系」。
同一页引了两个字母,说明这一页的规则同时落在两种责任上,这种双重归属本身就是考点。
常见误解
以为 2018 版和 2022 版的条款号通用
两版编号对不上,尤其 misconduct 那条在 2022 版才移到 H。引用时认准 2022 版。
以为条款号是课件自己编的序号
字母和数字都来自 ASA 准则原文,去官网能逐条对上原文。
试一下
顶住压力那一页的页脚是「C.2, C.8; E.1–E.4」。这一页管的是哪两种关系?
C 是对利益相关方(委托方)的责任,E 是对团队成员的责任。压力既可能来自委托方,也可能来自团队内部,所以两条都引。
2. 数据不等于许可
它解决什么问题
最常见的违规形态常常出于「先跑起来看看能挖到什么」,没有恶意,等结果出来再倒推一个目的。课件开篇一句话堵住这条路:A dataset is not automatically permission to act,手上有数据,不等于自动获得了使用它的许可。
直觉
动手之前要定四件事,四个词都以 p 或 f 开头,好记:
- purpose:为了什么决定、什么好处
- permissions:适用哪些审批、同意和使用边界
- provenance:从哪来、怎么生成的、改过什么
- fitness for use:这份数据适不适合回答这个问题
课件把它写成一条 Professional rule:define purpose, permissions, provenance, and fitness for use before you analyse。左边那张大问号图配的标语是 DEFINE THE DECISION BEFORE THE DATA。
这和上一页海滩的故事是同一个结构。判断要在动手之前做完,就像承诺要定在诱惑之前。
一步一步看
目标:拿手环步数做保费分档,四件事逐件问,看答不上两项时为何先停。
拿一个案例,四件事一件一件问。每一帧推进一行。
-
先问目的。当初采集是为了帮用户记录运动,现在要做保费分档,两者不是同一个目的。
-
再问许可。用户当初同意的条款是否覆盖保险定价,要回头去查,查清之前不能默认沿用。
-
查来源。数据由手环自动采集,不同型号计步口径不同,用户不戴的日子被记成零步。
-
问适用性。零步可能只是没戴手环,拿它判断健康风险会误伤一批人。四项里有两项答不上,结论是先停。
怎么判断
四件事逐项写出答案,任何一项答不上来,就还不能开始分析。答不上的那一项就是你下一步要去查的东西。
注意四件事的先后:目的排第一。目的没定,许可就无从核对,因为许可总是针对某个用途给的;适用性也无从判断,因为「适用」总是相对于某个问题。
常见误解
以为合规审批通过就等于伦理上过关
审批回答的是法律和程序问题。目的是否正当、数据是否适用,仍然要单独回答一次。
以为数据是公开的,就不需要许可
公开只说明你拿得到。没有同意机制的场合也有义务,课件原话是 otherwise consider their interests and welfare,要考虑被记录的人的利益与福祉。
试一下
一位研究生从论坛上爬了几万条帖子,想先跑个情感分析「看看能发现什么」,再决定论文题目。四件事里他缺了哪一项?
最先缺的是 purpose:没有目的就开跑,正是「先跑起来再倒推目的」。目的没定,permissions 和 fitness for use 也都没法判断。provenance 他能说清一部分(从哪个论坛爬的),但帖子是否被删改、是否覆盖了足够多样的人群也要记。
3. 只取必要的,新用途前停一下
它解决什么问题
目的定下之后,还有两个问题。第一,为了这个目的,该拿多少数据?第二,数据用过一次之后,再拿去做别的事,要不要重新问?课件用三条动作回答。
直觉
三条动作是:
- MINIMISE:只取必要的,声明的目的需要多少就收多少
- CHECK CONSENT:在适用的场合,只在当事人同意的范围内使用;没有明确同意时,也要考虑他们的利益与福祉
- PAUSE AT NEW USE:每一次扩展都要重新检查
配套的 Professional rule 是:某个字段、标识符或关联,如果不是声明目的所必需,就不要索取也不要使用。
第三条最容易漏。初次采集时大家都很小心,事故多发生在后面:把两份各自合规的数据 join 起来,把为 A 目的收集的数据拿去做 B,把内部数据共享给合作方。课件的措辞很硬,这些都是新的伦理决定,不是自动的下一步。
一步一步看
目标:拿外卖地址推测收入一案依次过三条动作,看新用途为何要先停下重核目的与许可。
案例:外卖平台为了送餐,收集了用户的收货地址和手机号。运营团队想把地址和公开的房价数据 join 起来,推测每位用户的收入档次,用来决定给谁发高额优惠券。
- 先过 MINIMISE:这个新任务真的需要手机号吗?
- 再过 CHECK CONSENT:用户给地址时,同意的是什么?
- 再过 PAUSE AT NEW USE:这次 join 和推测收入,是不是新用途?
- 合起来下结论。
| 步 | 动作 | 这个案例里 |
|---|---|---|
| 1 | MINIMISE | 推测收入用不到手机号,这个字段不该进分析 |
| 2 | CHECK CONSENT | 用户给地址是为了收餐,要查条款是否覆盖收入推测,不能默认 |
| 3 | PAUSE AT NEW USE | join 外部房价、推测收入都是新用途,要重走一遍目的检查 |
| 4 | 结论 | 先停下,重核目的与许可;就算许可覆盖,也只取必要字段 |
怎么判断
拿到一个新任务,逐个字段问:没有它,这个目的还能不能达成?能达成,就不收。
再问这次用法和上一次是不是同一件事。凡是出现「再利用、关联、共享」三个动作之一,就当作新的伦理决定处理:回到上一个概念的四件事,重新答一遍。
常见误解
以为原来的许可自动覆盖新用途
要去核对原许可的范围。可能覆盖,也可能不覆盖,答题时写「需核查」,不要直接断言「必然不被允许」,也不要默认「当然可以」。
以为两份数据各自合规,合起来也就合规
关联本身就是新用途。两份数据拼在一起,能推出单独任何一份都推不出的信息,比如认出一个具体的人,所以要单独再审一次。
试一下
一家公司收集员工的打卡时间是为了算工时。HR 现在想把打卡时间共享给一家外部咨询公司做「员工敬业度」研究。三条动作各给出什么判断?
MINIMISE:敬业度研究是否需要精确到每个人的打卡记录,能否只给汇总。CHECK CONSENT:员工同意的是算工时,要查是否覆盖外部研究。PAUSE AT NEW USE:对外共享是新用途,要重新做一次目的检查。
4. 隐私三层
它解决什么问题
很多人把隐私理解成一句承诺:「我们会保护你的数据。」课件的标题直接否定这种理解:Privacy is a practice — not a promise,隐私是一套做法。这一节讲这套做法分几层、每层管什么。
直觉
三层从外到内,是制度、操作、技术:
- GOVERN(Follow the boundary):遵守适用的隐私、保密和数据提供方的要求
- CONTROL(Protect use and disclosure):保护机密信息,防止不当访问或披露
- DE-IDENTIFY(Reduce re-identification risk):审慎去标识,并说明它对准确性的影响
缺一层,另外两层都会被削弱。底部还有一条警告:Do not over-promise,隐私或保密保护有法律和现实上的限制,不要过度承诺。
第三层那半句「说明它对准确性的影响」容易漏读。去标识会丢信息,丢了信息结论就会受影响,所以它也是一条必须披露的方法局限。
一步一步看
目标:给三起小事故各判是哪一层没做到,看制度、操作、技术三层各管什么。
给三起小事故,逐个判断是哪一层没做到。
- 事故甲:团队把客户数据上传到一个合同明令禁止使用的云服务。
- 事故乙:实习生的账号能看到全部病人的完整病历,而他只负责统计挂号量。
- 事故丙:发布的数据删掉了姓名,但保留了邮编、生日和性别,有人据此认出了具体的人。
| 步 | 事故 | 哪一层 | 理由 |
|---|---|---|---|
| 1 | 甲 | GOVERN | 违反了合同里的使用边界 |
| 2 | 乙 | CONTROL | 访问权限没管住,不该看的人看得到 |
| 3 | 丙 | DE-IDENTIFY | 去标识不充分,被重新识别 |
怎么判断
遇到一个隐私场景,按三问分层。违反了法规、合同或数据提供方的要求,是 GOVERN。权限没管住、被不该看的人看到,是 CONTROL。数据发出去之后还能认出个人,是 DE-IDENTIFY。
再加一问:对外说法有没有过度承诺。说「你的数据绝对安全」比不说更不诚实,因为做不到。
常见误解
以为删掉姓名就算匿名了
几个看似普通的字段组合起来,常常足以认出一个人。去标识要评估重识别风险,并且不能把「已匿名」讲成绝对安全。
以为去标识只是合规动作,跟分析结论无关
去标识会损失信息,进而影响准确性。课件要求同时说明这种影响,它是方法局限的一部分。
试一下
一份对外发布的报告写着「所有数据均已匿名,绝无泄露可能」。这句话的问题在哪?
过度承诺。去标识只能降低重识别风险,不能消除,而且保护有法律和现实上的限制。合格的写法是说明做了哪些去标识处理、剩余风险是什么、对准确性有什么影响。
5. 数据护照
它解决什么问题
一份数据从你手上传到下一个人手上,他怎么知道这份数据能信到什么程度?数据护照就是跟着数据走的那份说明。没有来源记录,数据只是一堆数字;有了记录,它才成为可问责的证据,出了问题能追到是哪一步引入的。
从哪来(补充)
机器学习领域有一个同类做法,叫 Datasheets for Datasets。它由 Timnit Gebru 等七位研究者提出,第一版 2018 年发布。
这个提议的灵感来自电子元件的规格书:每个数据集都附一份说明,写清动机、构成、采集过程和建议用途。课件的数据护照和它是同一件事的不同名字。
出处:arXiv: Datasheets for Datasets
直觉
数据护照要记四项:
Professional rule 是:记录到另一个合格的人能明白这份数据意味着什么,以及它不能支撑什么。多数数据文档只写「这是什么」,后半句「不能拿它得出什么结论」才是防止误用的关键。
第三项特意点了 join。关联既要事前重新过一次目的检查,也要事后记在护照里。
一步一步看
目标:给健身 app 的步数数据填一本护照,看四项各写什么、局限怎样写清它不能支撑的结论。
给前面健身 app 那份步数数据填一本护照,四项一项一项写。
- 写 Origin:数据从哪来、怎么采的。
- 写 Boundary:许可和预期用途是什么。
- 写 Transformation:做过哪些处理。
- 写 Limitations:它不能支撑什么结论。
| 步 | 项 | 这份数据的护照 |
|---|---|---|
| 1 | Origin | 手环自动采集的步数和心率,多个设备型号,固件升级后计步算法改过一次 |
| 2 | Boundary | 用户同意的用途是运动记录和个人统计;未核实是否覆盖第三方商业用途 |
| 3 | Transformation | 删除了重复上传;未佩戴的日子原样记为零,没有插补 |
| 4 | Limitations | 零步不等于不运动;不同型号口径不一;不能用来推断个人健康风险 |
怎么判断
写完护照,换位读一遍:假设你是一个从没见过这份数据的同行,读完能不能说出它不能用来干什么?说不出来,Limitations 就还没写到位。
再检查 Transformation 里有没有漏掉 join 和缺失值处理,这两项最常被省略,也最影响下游结论。
常见误解
把局限一栏写成免责声明
「本数据仅供参考」这类话对下一个人毫无帮助。局限要写成具体的结论边界:哪些推断不能做、为什么。
以为记录来源只是好习惯
它是问责的前提。出了问题要往回追是哪一步引入的,靠的就是这份记录,事后补不出来。
试一下
一份问卷数据的护照 Limitations 栏只写了「样本有限」。请改写得合格一些(可自行假设问卷情况)。
示例改写:样本只来自一所大学的本科生,不能推广到其他年龄段或学校;问卷在线发放,没有网络的人不在其中;自报数据,敏感题可能被低报。要点是写出具体「不能支撑」的结论,不是一句笼统的「有限」。
把它们串起来
这一页讲的全是动手之前和动手当中的事,挂在 ASA 2022 准则的 B 和 D 两条原则上。
先读懂坐标:条款号的字母就是原则,B 管方法,D 管被记录的人。然后是第一条规矩,数据不等于许可,动手前先定四件事。目的定下之后,只取必要的;凡是再利用、关联、共享,都当作新决定重新问。
数据在手上时,隐私分三层守:制度边界、访问控制、去标识,并且不过度承诺。数据要传出去时,带上一本护照,写清来源、边界、变换,以及它不能支撑什么。
下一页接着讲把结果交出去的时候:怎样透明汇报、怎样共享、有人催你降低标准怎么办、模型上线之后还欠什么。
课件里的坑
- [条款坐标] p.12 起每页页脚只给条款号不给原文,字母对应 ASA 2022 八条原则,要自己对表;p.16 同时引 C 和 D,p.20 同时引 C 和 E,这两处双重归属是考点
- [四个 p] p.14 的三问对应四个词:purpose、permissions、provenance、fitness for use,Professional rule 那一行把四个都写全了,三问和四词不要混着数
- [容易漏读] p.15 第二条的后半句 otherwise consider their interests and welfare,说的是没有同意机制的场合也有义务
- [排版提醒] p.17 等页有 Origi/n、Boundar/y 这类断词,属 PDF 转换时的文本框折行,不是课件内容错误
课后 10 分钟:考点复习
这 10 分钟怎么用:合上页面,先默写动手前的四件事、三条动作、隐私三层和数据护照四项,再写出 B 和 D 各管什么。然后做一遍「变式题」。最后回查两个最容易错的地方:以为合规审批通过就等于伦理上过关、以为原许可自动覆盖新用途。
必背
- 第二节整节依据 ASA《Ethical Guidelines for Statistical Practice》(2022),八条原则 A–H 共 72 个 element;引 B 的页管方法,引 D 的页管被记录的人,别引 2018 版
- 手上有数据不等于获得使用许可;动手前先定 purpose、permissions、provenance、fitness for use
- 某个字段、标识符或关联如果不是声明目的所必需,就不要索取也不要使用
- 再利用、关联、共享都是新的伦理决定,要重走一遍目的检查,应核对原许可是否覆盖新用途,不能默认沿用
- 隐私是三层实践:GOVERN 守边界、CONTROL 管访问与披露、DE-IDENTIFY 降低重识别风险并说明它对准确性的影响;不要过度承诺
- 数据护照四项 Origin、Boundary、Transformation、Limitations,记到别人能看懂它不能支撑什么结论
课件例题
本讲课件没有例题落在 p.12–17 这一段。这几页全是规则页,每页给一条 Professional rule 和一串条款号。考法有两种:Online Quiz 的细节题容易问「某页的 Professional rule 是什么」「某个字母代表哪条原则」;Written Assignment 更可能给一个场景,让你指出哪一步缺了许可、哪一层隐私没做到、护照里漏了什么。下面的完整例题就按这种考法设计。
完整例题
题面(自编情境,依据 p.14–17 的规则设计,不是课件原题):一所大学为了网络运维,记录了校园 Wi-Fi 的连接日志,包括设备号、接入点位置和时间。学生处想把日志和选课名单 join,找出「经常不在教室」的学生,给他们发学业预警邮件。请按这一段的规则逐项分析,指出已知问题、待核实事项和建议。
约定:题面没说的事实不当作已知,写成「需核实」。
解法:
- 四件事:purpose 从网络运维变成学业预警,是新目的。permissions 要查学生当初同意的网络使用条款是否覆盖出勤推断,题面没给,需核实。provenance:一个学生可能有多台设备,也可能借别人手机,设备号不等于人。fitness for use:连不上 Wi-Fi 不等于不在教室,有人只用流量,这份数据撑不起「缺课」这个结论。
- 三条动作:MINIMISE,预警只需要「某节课是否在场」,不需要全天的位置轨迹。CHECK CONSENT,见上一步。PAUSE AT NEW USE,join 选课名单是关联,属于新的伦理决定,必须重新审。
- 隐私三层:GOVERN,查学校的隐私政策是否允许这种用途。CONTROL,位置轨迹极其敏感,谁能看到合并后的表要严格限定。DE-IDENTIFY,这个任务要点名到人,没法去标识,所以前两层更要做实。
- 数据护照:Transformation 要记下 join 的规则;Limitations 必须写明「未连接 Wi-Fi 不能等同于缺课」。
- 结论:按现状不应开展。至少要先核实许可、改成只取必要字段、写清局限,并考虑用学生知情的方式(比如课堂签到)替代。
要点:这道题的突破口是 fitness for use。哪怕许可全部覆盖,数据也撑不起「缺课」这个结论。
答题格式:按四件事、三条动作、隐私三层、护照四段写,每段先下判断再给理由,最后一段给结论和改进。
变式题(先自己做)
自编情境:一家医院把门诊预约记录删掉姓名和身份证号后,共享给一所高校的研究团队,用来研究看病等待时间。研究团队拿到数据后,想再关联公开的社区人口统计数据,看等待时间和社区收入的关系。记录里保留了患者的出生日期、性别和居住街道。
(1) 医院共享这一步,要重新做哪些判断?(2) 研究团队再关联人口统计数据,属于什么性质的动作?(3) 隐私三层里哪一层风险最大?(4) 护照的 Limitations 至少要写什么?
提示
(1) 共享是三种新用途之一。(3) 看看保留下来的那几个字段组合起来能不能认出人。(4) 想想门诊预约记录覆盖不到哪些人。
判分点与答案(非官方评分标准)
判分点:① 点出共享和关联都是新的伦理决定;② 指出重识别风险并落到 DE-IDENTIFY;③ Limitations 写出具体的结论边界。
(1) 共享是新用途:要核对患者当初的许可是否覆盖对外研究,确认研究目的正当、只给必要字段,并在合同里写清使用边界(GOVERN)。
(2) 关联,同样是新的伦理决定,研究团队要重新过一遍目的检查,并把 join 的规则记进护照的 Transformation。
(3) DE-IDENTIFY。出生日期、性别加居住街道组合起来,很可能认出具体的人;再关联社区数据,风险更高。应考虑把出生日期改成年龄段、街道上卷到更大的区域,并说明这样做对分析精度的影响。
(4) 至少写明:只覆盖在这家医院预约过的患者,不代表整个社区;没预约、直接急诊的人不在其中;等待时间的记录口径如有变化要注明;不能用来推断个人的健康状况。
闪卡自测
1. ASA 条款号里的字母代表什么?B 和 D 各管什么?
字母是 ASA 2022 准则的原则编号,A 到 H 共八条。B 是 Integrity of Data and Methods,管方法;D 是对研究对象与数据主体的责任,管被记录的人(p.12)。
2. 动手之前要定的四件事是什么?
purpose、permissions、provenance、fitness for use。一句话概括是数据集本身不构成行动许可(p.14)。
3. 三条动作是什么?最容易漏的是哪条?
MINIMISE、CHECK CONSENT、PAUSE AT NEW USE。最容易漏的是 PAUSE AT NEW USE(p.15)。
4. 哪三种情形要重新做一次伦理判断?
二次使用、数据关联、对外共享。三者都属于新的用途,上一次取得的许可不一定覆盖(p.15)。
5. 隐私保护的三层是什么?去标识时最容易过度承诺的是什么?
GOVERN(治理边界)→ CONTROL(访问控制)→ DE-IDENTIFY(去标识)。最容易过度承诺的是去标识的强度,课件要求同时说明它对准确性的影响(p.16)。
6. 数据护照的四项是什么?哪一项最常被写成空话?
Origin、Boundary、Transformation、Limitations。最常写成空话的是 Limitations,正确写法是明确指出这份数据不能支撑什么结论(p.17)。
7. 为什么说记录 provenance 是伦理要求,不只是好习惯?
有来源记录,数据才成为可问责的证据。出了问题能追到是哪一步引入的,这是问责的前提(p.17)。
下一讲
本讲下一页 L03c 讲把结果交出去的时候:透明汇报、共享与保护的取舍、三种压力信号,以及模型上线之后的三段义务。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。