← 全部课程
DSAI5T09

Academic Integrity and Ethics in Computer and Mathematical Sciences

Online Quiz 50% · Written Assignment 50% · 无期末。没有期末考试,两份评估都是场景式伦理分析。

连载中,随课程进度更新,目前到第 12 周 L10e(11-16),后面的讲次上完课再补。

逐讲

L01a-1第 1 周 · 8-31

L01a-1 伦理的三个冒牌货:感觉、共识和法律都替代不了它

从零讲清伦理不等于感觉、社会共识和法律:先学会问「压力从哪来」,再用报销、加班、奴隶制、合法与道德几个案例一步步练出分辨的手感。

L01a-2第 1 周 · 8-31

L01a-2 三把尺:后果论看结果,义务论看规则,德性伦理看人

从零讲清三套伦理理论:后果论的三个分支、义务论的「与之后发生什么无关」、德性伦理的 Eudaimonia 和中道,最后拿网暴案把三个 Key Question 各问一次。

L01a-3第 1 周 · 8-31

L01a-3 电车难题:账面一样的两个场景,三把尺为什么分歧

从零走一遍电车难题:经典版拉杆和胖子版推人都是五换一,后果论、义务论、德性伦理各量一次;再看 Bentham 与 Mill 的 quantity、quality 之争,以及 2009 年哲学家调查为什么说明没有标准答案。

L01b-1第 1 周 · 8-31

L01b-1 ACM Code:四大板块和四个职场场景

从零讲清 ACM Code 是什么、不是什么,四大板块与 Section 编号怎么读,再用 Alex、Sarah、Marcus、Elena 四个场景练习把条款映射到伦理理论。

L01b-2第 1 周 · 8-31

L01b-2 案例分析四步法:用 Maya 案走完 Consider、Analyze、Review、Evaluate

从零学会场景分析的四步答题结构,再用课件最长的 Maya 案逐步套用:三份匿名数据为什么合起来不安全(拼图效应),一个 2% 的合并错误为什么被三条 Section 各判一次,Maya 最后该怎么做。

L02a-1第 2 周 · 9-07

L02a-1 算法没有中立选项:三处选择、审查三问与反馈回路

从数据化讲起:行为怎样变成分数、分数怎样分配机会;算法作者必须做的三个选择,审查者对应的三问;以及偏见为什么会被反馈回路越滚越大,删掉敏感字段为什么拦不住。

L02a-2第 2 周 · 9-07

L02a-2 WMD 三支柱:用 2008 年的 CMO 完整解剖一遍

从零讲清 Opacity、Scale、Damage 三支柱为什么是「与」关系,CMO 怎样把一池房贷切成三档、还款怎样像瀑布一样往下流,以及同一个模型为什么在房价下跌时整体失效。

L02b-1第 2 周 · 9-07

L02b-1 错配在各行各业重演:代理指标与自我实现的预言

从零讲清算法为什么会「达标却害人」:它只能优化测得到的代理指标;再看招聘、学校评分、预测性警务三个场景里,预测怎样改写现实、改写数据的采集方式。

L02b-2第 2 周 · 9-07

L02b-2 谁来拦住 WMD:三条防御、职业标准与 The Focus Gap

从零讲清两层防御怎么分工:公众的 Ask Questions、Demand Audits、Human Oversight;从业者的职业标准五要素为什么惩戒是承重墙;以及规则为什么只管公司、管不到造模型的人,政府监管难在哪四处。

L02b-3第 2 周 · 9-07

L02b-3 不制造 WMD 的 AI 流程:可解释性四类受众与反事实审计

从零讲清 AI 四阶段流程各防哪一个坑、上线后要守住哪四件事,SHAP、PDP、ICE 各自看的是谁,以及怎样用生成式 AI 造反事实图像,审计皮肤癌分类器到底在看病灶还是在看毛发。

L03a第 4 周 · 9-21

L03a integrity 的两个维度:没人看着时的那个选择

从零讲清 integrity 这个词:对外正直、对内完整两个维度,承诺为什么要定在考验之前,回报先后能说明什么,以及品格怎样接到职业标准上。

L03b第 4 周 · 9-21

L03b 碰数据之前:手上有数据,不等于拿到了使用许可

从零讲清取数前的规矩:ASA 准则的条款号怎么读,动手前要定的四件事,只取必要的和新用途前停一下,隐私三层,以及跟着数据走的数据护照。

L03c第 4 周 · 9-21

L03c 把结果交出去:透明、共享、顶住压力,上线之后还没完

从零讲清结果交出去前后的规矩:汇报时该展示什么、不能藏什么,共享和保护冲突时怎么选,三种听起来无害的压力信号,模型上线后的三段义务,以及把第二节收成三个时点的三次 PAUSE。

L03d-1第 4 周 · 9-21

L03d-1 链条的尽头是一个人:平均准确率不够,代理目标会篡位

从零讲清为什么 integrity 在数据科学里格外要紧:责任链、三个安静的决定、代理目标,以及公平性指标为什么只能支持判断。

L03d-2第 4 周 · 9-21

L03d-2 让判断可见:可审计性要内建,上线前问三个 P

接着责任链往下讲:让判断可见的 JUSTIFY、DOCUMENT、TEST、QUESTION,可审计性为什么必须内建,以及上线前的 PEOPLE、POWER、PROOF 和「没有模型是中立的」。

L04a-1第 5 周 · 9-28

L04a-1 伦理放在流程里:三阶段三职责与三句口诀

从一个数据项目的流水线讲起:伦理检查为什么要拆到清洗、建模、部署三个交接点上,三阶段各自守什么,三句 Integrity Mantra 规定的是哪一刻必须先问。

L04a-2第 5 周 · 9-28

L04a-2 第一道门 CLEAN:洗干净不等于有权用,公开可见不等于可以复用

清洗为什么也是伦理决定;知情同意的 KNOW、ACTION、DECISION 三个条件;重新利用、合并、富化、越界暴露四类越界动作;以及公开数据为什么要先过 RIGHTS、PRIVACY、PURPOSE 三条设计约束。

L04a-3第 5 周 · 9-28

L04a-3 建模与部署两道门:目标变量是价值选择,部署要为防护失效做准备

MODEL 阶段定目标、测整个决策,DEPLOY 阶段按时间排四条职责、用纵深防御回答谁承担后果,最后把三道门收成三个主问题加六个子问题的必背表。

L04b-1第 5 周 · 9-28

L04b-1 公平先要会写条件:条件概率、群体与交叉性、四个符号、删列为什么不够

下半份课件的入门页:先补条件概率,再讲群体公平要按交集拆开看,然后记住 X、A、Y、Ŷ 四个符号,最后说明只删敏感属性列为什么不能保证公平。

L04b-2第 5 周 · 9-28

L04b-2 三个公平指标怎么算:混淆矩阵、Statistical Parity、Equal Opportunity、Predictive Equality

先补混淆矩阵和两个分母,再逐个讲 SP 比正预测率、EO 比 TPR、PE 比 FPR,以及两者合起来的 Equalized Odds,含课件招生三句例子和一道可以代入数字算的例题。

L04b-3第 5 周 · 9-28

L04b-3 公平指标会打架:准确率与群体结果、群体与个体、三族与不可能性

公平指标在模型的优化空间里互相竞争:按分数录取最准却两组差距悬殊,错误率拉平了个人仍可能被误判,三族划分说明为什么不能全部同时达标;含课件 p.26 招生权衡原题。

L04b-4第 5 周 · 9-28

L04b-4 选指标、修偏差、设门禁:从伤害选透镜,在偏差进来的地方动手

公平指标没有技术上的标准答案:先问伤害落在谁身上再选 SP、EO 或 PE;偏差在写代码前、建模中、上线后三处进入,就在对应位置修;最后把审计做成 DOC、TEST、FIX、WATCH 四步发布门禁。

L05a第 6 周 · 10-05

L05a 学术诚信入门:三个问题和四根柱子,从剽窃讲起

学术诚信是一套信任系统:先用 Boundary Test 三问检查一份提交,再用四根失范支柱给问题贴标签,最后把剽窃的范围讲透,含课件横幅例句和拼贴式改写两道题。

L05a-2第 6 周 · 10-05

L05a-2 捏造与篡改:凭空造和在真数据上动手脚,怎么分

捏造是从无到有造数据,篡改是在真材料上操纵到记录失真;改数据不一定算篡改。用三个案例一步步判断,含课件调查问卷和选择性删除两道题,以及合规排除数据的修复四条。

L05a-3第 6 周 · 10-05

L05a-3 代码盗用与引用:公开的代码也有主人

第四根失范支柱代码盗用:permission、attribution、任务规则三个边界;安全复用四条;引用数据和代码的四件套与公式。含课件 weather-sim 仓库案例和删文件头辨析。

L05a-4第 6 周 · 10-05

L05a-4 后果与预防:一次捷径怎样扩散,诚信怎样边做边建

一次失范会变成验证问题、信任问题,有时变成勘误或调查;预防靠 Capture、Check、Cite、Communicate、Commit、Confirm 六步工作流;出错后用三格对照改正记录。含课件后果链、六步与四步、Correct the Record 三道题。

L05b第 6 周 · 10-05

L05b 合作与署名:谁该写进作者栏,贡献怎样留下证据

署名同时是信用和责任:作者与致谢怎么分,Ghost 与 Gift 两种失衡,贡献矩阵按角色记账、代码仓库把劳动变成署名证据。含课件资深者当第一作者、贡献矩阵、五项贡献归类和可引用仓库四道题。

L05b-2第 6 周 · 10-05

L05b-2 作者顺序、活协议与争议:先谈好,常更新,谈不拢按序升级

作者顺序没有全球统一规矩,要事先约定;署名是活协议,Talk Early、Log Often、Revisit Always;起了争议按 Dialogue、Mediate、Escalate 三段走。含课件同等贡献讨论题、改写对话和扩张论文案例。

L06a第 7 周 · 10-12

L06a IP 与开放科学:拿得到不等于可以用

从零讲清知识产权(IP)是什么、一个项目文件夹里有哪几类资产、开放为什么不等于无主,以及读任何许可都能用的 Find、Check、Follow 三步。

L06a-2第 7 周 · 10-12

L06a-2 三类许可:MIT、GPL、Creative Commons 各要你做什么

从零讲清三类最常见的许可:MIT 广泛复用但要保留声明,GPL 分发时要连同源码,CC 按 BY、SA、NC、ND 四个模块拼装,以及三者为什么不能互换。

L06a-3第 7 周 · 10-12

L06a-3 依赖拼图与引用:组合起来的许可冲突,以及怎样写明来源和版本

从零讲清两件事:每个组件单独合法、拼进同一个项目却可能无法发布;以及只有许可还不够,引用要写明来源、版本和持久链接,项目层面还要有 CITATION.cff、README 和固定版本号。

L06b第 7 周 · 10-12

L06b 版权与专利:算法到底受什么保护

从零讲清版权和专利:版权护表达不护想法,写下来就自动产生;专利要新颖、实用、非显而易见,用公开换有期限的排他权;算法类发明能否获专利看技术效果和法域;两者期限分别怎么算。

L06b-2第 7 周 · 10-12

L06b-2 商业秘密与发布:公开方法、保护实现,发布前问四件事

从零讲清第三种保护方式商业秘密:靠保密、没有固定期限、一旦泄露收不回;开放科学是有意识的发布,公开方法、必要时保护实现;发布前按归属、敏感性、许可、可运行四问检查,以及作品集、团队项目、模型权重三个常见场景。

L07a-1第 9 周 · 11-01

L07a-1 隐私与知情:签了字不算数,人真听懂才算

从零讲清隐私与保密的分工、Belmont 三原则从哪来又推出什么、知情同意要讲清的六件事和回述法,每个概念都在校园睡眠压力问卷上一步步套判断。

L07a-2第 9 周 · 11-01

L07a-2 自愿与持续同意:谁在问、能不能退、退了数据怎么办

从零讲清怎样判断自愿与不当影响、同意为什么是贯穿研究的过程、退出权与已收集数据的处理,在考试扣分换参与、中途换问卷平台、匿名后删不掉等场景上一步步套判断。

L07a-3第 9 周 · 11-01

L07a-3 标识符与匿名:去掉名字不等于认不出人

从零讲清直接与间接标识符、去标识化/假名化/匿名三个标签各承诺什么、匿名化为什么是情境中的再识别评估,在无名数据认出 Leo、假名化表格的钥匙等场景上一步步套判断。

L07b-1第 9 周 · 11-01

L07b-1 GDPR:管到哪里、凭什么处理、同意怎样才算数

从零讲清 GDPR 的适用范围、第 5 条七项原则、第 6 条六种合法依据、有效同意四个条件,在非欧盟公司卖网课、课上招募学生选依据、默认勾选的同意框等场景上一步步套判断。

L07b-2第 9 周 · 11-01

L07b-2 GDPR 进阶:健康数据过两道门,泄露了 72 小时内通知谁

从零讲清第 9 条特殊类别数据的两道门、数据主体权利及其限定、DPIA 与个人数据泄露通知、控制者与处理者的分工,在心理健康问卷、问卷平台泄露、大学团队与问卷平台的角色等场景上一步步套判断。

L07b-3第 9 周 · 11-01

L07b-3 人类受试者与 IRB:先问是不是研究,豁免不能自己说了算

从零讲清人类受试者研究的两问、IRB 审查的四项内容、豁免 / 快速审查 / 全体会议三条路径、不能自行宣布豁免,在社交平台熬夜问卷、「我觉得这份问卷是豁免的」等场景上一步步套判断。

L07b-4第 9 周 · 11-01

L07b-4 免同意、复用旧数据与数据最小化:开工前的最后一张清单

从零讲清 IRB 豁免或变更同意的四项认定、免签字与免同意的区别、复用现有数据仍要审查、最小化四法和开工前四问,在「旧问卷名单很大,直接用」、复用去标识数据集、给无名记录做最小化等场景上一步步套判断。

L08a第 10 周 · 11-02

L08a 什么是 AI 偏见:原型、人脸分类的差距和生命周期五站

从零讲清算法偏见的定义、原型和默认怎样变成偏见、怎样按群体读人脸分类表算最大差距、物体识别准确率为什么跟收入和地区有关,以及偏见从生命周期哪一站进来、六种常见偏见怎么分。

L08b第 10 周 · 11-02

L08b 相关不是因果、分布偏移和类别不平衡:模型为什么学歪

从零讲清相关谬误怎样骗过人、训练和测试的分布不同为什么让模型失灵、类别不平衡时决策边界怎样被多数类推开、准确率 99.997% 为什么可能毫无用处,以及加权和重采样怎样让少数类追上来。

L08c第 10 周 · 11-02

L08c 类内隐藏偏见、公平的定义和去偏方法:怎样发现和减轻偏见

从零讲清类别数量平衡后为什么还会有偏见、课件的公平公式怎么读、分组评估和交叉评估的区别、对抗多任务训练怎样去掉敏感属性的影响、语言模型类比去偏前后的变化,以及怎样读去偏结果和它的适用边界。

L09a第 11 周 · 11-09

L09a 三个变量和独立:把公平写成能检查的式子

从零讲清算法公平的起点:一个决定可以写成组别 G、选择 S、真实目标 T 三个变量,每个人落在四格之一;为什么比较公平要看比例不看人数;两个极端 S = T 和 S = G;独立 A ⊥ B 的定义和检查方法;条件独立 A ⊥ B | C 怎样用共同原因读懂。

L09b第 11 周 · 11-09

L09b 公平六件套:六种把公平写成独立的方法

从零讲清课件的 Fairness SixPack:上排三条直接独立(人口均等 S⊥G、人人平等 T⊥G、目标无关 S⊥T)和平等乌托邦,下排三条条件独立(等几率 S⊥G|T、预测均等 T⊥G|S、分层无关 S⊥T|G),每条怎么检查、各自不保证什么。

L09c第 11 周 · 11-09

L09c 公平定义的冲突:基率不同时只能挑一条

从零讲清课件的冲突部分:人口均等和等几率两个方向都推不出,命题 1 说两者同时成立就只剩基率相等或选择器无用,命题 2 说人口均等加预测均等会推出基率相等,最后用同一个招聘池算出六问表,并订正课件印错的一格。

L09d第 11 周 · 11-09

L09d 选择公平:去掉组别不管用,按场景挑定义并公开审计

从零讲清课件最后一部分:不可能结果在投票理论里也很常见,把组别从输入里删掉挡不住代理变量,不同场景配不同的公平定义,取舍要公开,审计要从数格子开始,以及六件套之外的因果公平和个体公平。

L10a第 12 周 · 11-16

L10a 生成式 AI 能帮研究做什么:流畅不等于正确,每一步都留人核查

从零讲清这一讲的开头:生成式 AI 是什么、为什么读起来对不等于是对的;它帮得上研究的四个机会;机会 1 文献检索里参考文献只能当线索;机会 2 数据、代码、分析的四张卡,审计痕迹和四阶段四检查点。

L10b第 12 周 · 11-16

L10b 辅导、编辑部与数据去向:AI 能帮忙,签字和保密还在人手里

从零讲清课件机会部分的后半段:用 AI 润色英文为什么可以但要披露,把模型当副导师的条件,LAMBDA 教学数据智能体的四格流程,编辑部用 AI 查稿的三个条件,以及粘贴进去的内容去了哪里、个人账号和机构部署差在哪。

L10c第 12 周 · 11-16

L10c 四类风险与署名:AI 让老毛病变快,签名只能留给人

从零讲清生成式 AI 在研究里的四类风险:幻觉是填好的答案,微剽窃欠的是想法,偏见是继承来的,捏造在一杯咖啡的时间里就能完成;再讲为什么 AI 不能当作者,以及不知道工具做了什么为什么不构成辩护。

L10d第 12 周 · 11-16

L10d 活的守则与披露:规则要能改,用了 AI 要写清楚

从零讲清课件第四部分后半:通用科研诚信守则不用重写,AI 使用守则要写到具体任务;守则追不上技术、80 多份守则互相打架,所以要写成定期修订的活指南;披露按 WHEN、WHAT、WHERE 三问来做,哪些要披露、哪些不用。

L10e第 12 周 · 11-16

L10e 论文工厂与撤稿缺口:把视角从个人拉到整个系统

从零讲清课件最后一部分:研究记录怎样被污染,论文工厂作为一门生意卖什么、怎样过同行评审这道门,被撤的和该撤的差 20 倍,撤稿数量和各国撤稿率怎么读,机器速度的检测,四方各担的责任,激励链与评价改革,以及按下回车前要问的四个问题。

两份评估怎么准备

没有期末,Quiz 和 Written Assignment 各占一半。Quiz 考的是条款、清单这类能定位到原文的细节;Assignment 给一个学科相关的场景,要你把清单按顺序用出来,并说清每一步在防什么。下面这几条按已经上完的讲次推,课程没有公布题型。

  1. 1按讲把页尾「必背」过一遍,三套清单要能默写,且说得出各自最先抓到什么。
  2. 2每讲的「完整例题」跟着走一遍,然后合上页面做「变式题」,练的是给一个陌生场景排出动作顺序。
  3. 3最后扫「课件里的坑」:标了 [课件有误] 的别照抄进作业,引用条款前先自己核一份可查的出处。

要能现场排出来的场景题

这门课没有计算题,但顺序、停点和判定都有标准答案,练到给一个陌生场景能直接写出来。

清单套用
给一个数据处理场景,按四步工作流写出每一步做什么
停点判断
同一场景下三次 PAUSE 各在什么时刻触发,哪一次最先命中
框架判定
对照三支柱逐条判断,说明哪条成立、哪条不成立、结论是什么
数据交接
写出数据护照要记的项,缺哪一项会让下游无法追责
引用核查
给一条带数字的结论,指出它缺什么出处、该怎么补

复习的产物:自己填的表

填表本身就是复习,抄一份现成的没有用。

  • 三套清单对照:各自在什么时机用、最先抓到什么、漏了会出什么事
  • 判定表:三支柱逐条的成立条件与反例
  • 出处清单:作业里要引的条款和数据,各自能查到哪里

累计考点表

各讲页尾「必背」的汇总,随讲次增长。复习时按讲回看,点讲次跳到那一页。

L01a-1 · L01a-1 伦理的三个冒牌货:感觉、共识和法律都替代不了它
  1. 伦理不是感觉、不是社会共识、不是法律;分辨看压力来自哪里——内心不忍是 Feelings,大家都这么做是 Social Beliefs,写在条文里是 Laws
  2. Social Belief 是大家认为什么是真的,Social Norm 是大家认为什么做法可接受;加班文化里信念是成功由工时衡量,规范是老板不走谁也不走
  3. 法律是地板,伦理是天花板;归谬论证是若伦理只是社会信念的镜子,道德进步就不可能发生
  4. 病人 A/B 的答案是先救 B,依据是临床紧急度、临床中立、职业义务;核心规则 treat the one who needs you most
  5. 奴隶制曾经既是主流共识又是合法的,一个例子同时驳倒「共识即对」和「合法即对」
  6. 网络私刑违反的是比例原则:集体行动造成的后果远超原始过错
  7. 我们不能把道德外包给法典(cannot outsource our morality to the legal code),法律沉默或不足的地方要靠主动的伦理判断
L01a-2 · L01a-2 三把尺:后果论看结果,义务论看规则,德性伦理看人
  1. 三把尺的 Focus 与 Key Question:Consequentialism 看 Outcomes and Results,问 What result is best;Deontology 看 Rules, Duties, and Universal Rights,问 Is the act itself right;Virtue Ethics 看 Character and Intent,问 What would a good person do
  2. 后果论的三支只差为谁最大化:Ethical Egoism 为自己,Ethical Altruism 为他人,Utilitarianism 为最多数人
  3. 义务论认为有些事本身就是对的或错的,与之后发生什么无关(regardless of what happens afterward)
  4. 德性伦理换了问题:问 Who should I be,不问 What should I do;终极目标 Eudaimonia 是人的繁盛,算一生的账
  5. Golden Mean:德性是不足与过度之间的中点,怯懦是不足、鲁莽是过度,中点相对于情境,不是算术平均
  6. 三个副标题是三把尺的刻度:Results / Rules / Person;遇到场景题把三个 Key Question 依次问一遍,答案自动分成三段
L01a-3 · L01a-3 电车难题:账面一样的两个场景,三把尺为什么分歧
  1. 电车难题的核心冲突是功利主义与义务论的对撞,它测试的是我们关于责任、行动和人命价值的道德直觉
  2. 电车经典版的冲突是 actively kill 一人对 allow to die 五人,作为与不作为的区别是义务论抓住不放的地方
  3. 电车两版若只比较确定死亡人数都是 5 换 1;后果论也可考虑长期后果,义务论着重行为与权利——推人是把人仅仅当作工具;Bentham 在乎快乐的 quantity,Mill 主张 quality
  4. p.20 把推人违反规则放在 Mill 一侧是教学简化:Mill 是功利主义者,不是义务论者,考试照课件答
  5. 2009 年调查共 3226 人作答,规范伦理一题的 931 人目标院系教师样本里 Other 占 32.3% 最高,三套理论没有一套是标准答案
  6. 考场答法:三把尺各量一次,指出它们在这个场景上分歧在哪、你选哪一把、理由是什么
L01b-1 · L01b-1 ACM Code:四大板块和四个职场场景
  1. ACM Code 四大板块依次是 General Ethical Principles、Professional Responsibilities、Professional Leadership Principles、Compliance with the Code,Section 编号首位数字即板块号
  2. 伦理框架提供思考的 how,职业准则提供特定共同体的 what;准则设定集体标准,让你不必独自面对道德困境
  3. 数据科学四个必记编号:1.2 Avoid Harm、1.4 Be Fair、1.6 Respect Privacy、2.5 对系统影响与风险做全面评估
  4. Code 不是解伦理问题的算法,只帮你做出伦理选择;它表达行业的良知,也是违规时补救的依据
  5. Alex 案模板:义务论与功利主义在同一结论上收敛,是最强的论证形式
  6. Sarah 案换了理论组合(Virtue Ethics + Deontology),因为争议从后果多严重变成专业的人会不会这么干
  7. Marcus 案是领导视角,点名三个德性:wisdom、integrity、courage
  8. Elena 案属 Section 4,讲的是对职业共同体本身的义务,并援引社会契约论
L01b-2 · L01b-2 案例分析四步法:用 Maya 案走完 Consider、Analyze、Review、Evaluate
  1. 案例分析四步 Consider → Analyze → Review → Evaluate;最容易漏的两问是还缺哪些信息、有哪些替代行动
  2. Maya 案的核心谬误:合规委员会用法律标准(每份都合法)得出伦理结论(所以安全);合法性不能逐份相加
  3. Mosaic Effect:去掉身份字段不等于去掉身份,行为模式本身就是身份
  4. 总体 2% 错误率不能单独证明质量合格;需核查分组分布与下游后果,不能把误差集中于某群体当作已知事实
  5. 同一件事被三条不同层级的条款各判一次:1.2 后果层 / 2.1 手艺层 / 3.1 领导层
  6. Code 给的是升级路径而非违抗:说清楚(1.3)、找外人评审(2.4)、以公共利益为准(3.1)
L02a-1 · L02a-1 算法没有中立选项:三处选择、审查三问与反馈回路
  1. 数据化把生活变成数据点,关于你的数据决定了你能拿到哪些机会
  2. 算法必然编码作者的价值,三个刻意选择是 DEFINITION OF SUCCESS、CURATED DATA、PREDICTIONS & OUTPUTS,每一个都没有中立选项
  3. 审查一个系统的三问:谁建的(他们自己受影响吗)、他们怎么定义成功、谁不在场
  4. 危险不在于算法会犯错,而在于我们把它们当成不会犯错的东西来信任
  5. 反馈回路把模型的输出当作新的真相回收,只会自我加强,打破它要靠外部审计
  6. 删掉敏感字段不能消除歧视,模型会从代理变量把它学回来
L02a-2 · L02a-2 WMD 三支柱:用 2008 年的 CMO 完整解剖一遍
  1. WMD 三个特征是 Secret、Widespread、Harmful;三支柱 Opacity、Scale、Damage 是「与」关系,缺一条就不成立
  2. 数学没有坏,坏的是底层假设——训练数据只覆盖房价上涨期,模型给全国性同步下跌赋了接近零的概率
  3. CMO 的分层结构与偿付瀑布:优先层拿 AAA 作为安全资产营销,权益层是第一损失位置;反复重新打包掩盖了原始风险
  4. Opacity 是保护伞:如果数学复杂到无法被质疑,它就成了欺诈和系统性风险的完美挡箭牌
  5. 同质化逻辑摧毁了风险分散:所有机构用同一套有缺陷的假设,市场上就不存在意见的多样性
  6. Damage 同时看总量、严重性和分布;关注弱势群体受损,但不把伤害集中当成唯一判据
L02b-1 · L02b-1 错配在各行各业重演:代理指标与自我实现的预言
  1. 错配的一般形式:算法优化能测量的代理指标,受影响者关心的却是它测不到的那个目标
  2. 两个反馈回路场景:招聘把合格者无解释地挡在市场外,学校评分把「低潜力」标签执行成真
  3. 营利性大学广告那一行的错配是故意的:同样的技术结构,动机可以是疏忽,也可以是掠夺
  4. 判断回路的通用判据:模型的输出会不会影响下一轮输入的采集方式
  5. 预测性警务里,警力部署决定了哪里的犯罪被记录下来,犯罪率这份数据本身带着模型上一轮的判断
L02b-2 · L02b-2 谁来拦住 WMD:三条防御、职业标准与 The Focus Gap
  1. 三条防御 Ask Questions、Demand Audits、Human Oversight 可交叉缓解风险;职业标准五要素里惩戒机制是承重墙
  2. The Focus Gap:监管管组织,不管造模型的专业人员个人
  3. 政府监管的四难:边界(管什么)、技术鸿沟(监管者看不懂)、认证(可否交给持照专业人员)、审计有效性
  4. 职业执照路线图四步:推广职业资格、支持惩戒权、制定统一标准、由精算师做独立的认证审计
  5. 当复杂度超过了监督能力,预测模型就变成了侵蚀公众信任的数学杀伤性武器
L02b-3 · L02b-3 不制造 WMD 的 AI 流程:可解释性四类受众与反事实审计
  1. AI 四阶段流程的防御含义:阶段 2 建多种模型防同质化,阶段 4 的 Drift Detection 防历史近视、Challenger Models 持续挑战现役假设;Humble AI 让模型主动承认「这一例我不知道」
  2. 上线后四件事:保持参与(别把模型扔过墙)、跟踪漂移、回退流程、整体性指标——准确率不够
  3. 可解释性对四类受众意味着不同的东西:个人要可行动、战术决策者要可核对、战略决策者要可聚合、合作方要可问责
  4. SHAP 解释单次预测、PDP 看全局平均、ICE 逐个体画线;PDP 会把方向相反的效应平均掉,「无影响」和「相互抵消」在 PDP 上长得一样
  5. 显著图在医疗场景的局限:像素级高亮不落在临床概念上,医生需要知道模型用了哪些临床特征
  6. 反事实方法只改一个因素看结果是否翻转;方向由模型的预测定义,不是由医学真相定义
  7. 审计的落点是 Lesion 行还是 Background 行:模型靠毛发、红斑、背景色判断皮肤癌,学的就是伪相关,换到真实场景就会失效
L03a · L03a integrity 的两个维度:没人看着时的那个选择
  1. integrity 两个维度不可分割:对外是 Moral character in action(HONESTY、PRINCIPLE、CONDUCT),对内是 Wholeness within(UNITY、COHERENCE、SELF),只答「诚实」会漏掉另一维度
  2. 自我诚实是 integrity 的前提:先看清自己相信什么、想要什么,外在行为才可能一致
  3. 内在完整不等于从不产生疑问:内心的辩论应该发生在事前,到了诱惑当场就不必再辩
  4. 海滩三拍 A settled commitment、The Test、The Response:承诺在诱惑出现之前已经定了,所以现场不需要临时做道德计算
  5. 事后酬谢有助于分析行为动机,但回报先后不是 integrity 的充分必要判据——案例金额为 $42,000 与 $1,000
  6. 一般整合性是「你是谁」,职业整合性是「你怎么达到一个角色的标准」,四个构成是 Competence、Valid methods、Honest communication、Accountability
L03b · L03b 碰数据之前:手上有数据,不等于拿到了使用许可
  1. 第二节整节依据 ASA《Ethical Guidelines for Statistical Practice》(2022),八条原则 A–H 共 72 个 element;引 B 的页管方法,引 D 的页管被记录的人,别引 2018 版
  2. 手上有数据不等于获得使用许可;动手前先定 purpose、permissions、provenance、fitness for use
  3. 某个字段、标识符或关联如果不是声明目的所必需,就不要索取也不要使用
  4. 再利用、关联、共享都是新的伦理决定,要重走一遍目的检查,应核对原许可是否覆盖新用途,不能默认沿用
  5. 隐私是三层实践:GOVERN 守边界、CONTROL 管访问与披露、DE-IDENTIFY 降低重识别风险并说明它对准确性的影响;不要过度承诺
  6. 数据护照四项 Origin、Boundary、Transformation、Limitations,记到别人能看懂它不能支撑什么结论
L03c · L03c 把结果交出去:透明、共享、顶住压力,上线之后还没完
  1. 结果应当诚实且有意义,而不只是有说服力;不能把事后的选择说成事先的计划,也不能用选择性叙述夸大确定性
  2. 共享与保护冲突时,先锁死仍能被有意义地验证这个硬约束,再在满足它的方案里挑最安全的
  3. 三种压力信号都不等于标准:讲清楚一点、快一点、大家都同意;回应是走 ethical escalation path,条款落在 E.1–E.4
  4. 模型上线不等于做完:BEFORE 验证、DURING 盯漂移、AFTER 纠正或退役,退役同样是职业义务
  5. 三次 PAUSE 是最通用的清单:碰数据前问这次使用站得住吗、发结果前问别人能诚实理解吗、决策之后问还能被问责吗
  6. 合格的数据处理有六个性质:PURPOSEFUL、MINIMAL、PROTECTED、TRANSPARENT、VERIFIABLE、ACCOUNTABLE
L03d-1 · L03d-1 链条的尽头是一个人:平均准确率不够,代理目标会篡位
  1. 模型不只是数学,它是一条链:DATA → MODEL → DECISION → CONSEQUENCE;前四格是我们的选择,第五格是别人承受的结果
  2. 三个安静的决定 COLLECT、LABEL、TEST 决定模型看不看得清一个群体;TEST 这一条会让不均等的误差藏到部署之后
  3. 平均准确率不够——NIST 对 189 个人脸识别算法的测试里,部分群体的假阳性率高出 10–100 倍(随算法而异),评估必须按群体拆开看
  4. 分数变好不等于人的处境变好:代理指标进入优化循环后,会变成成功的定义本身
  5. 公平性指标能支持判断(inform),不能替代判断(replace)
L03d-2 · L03d-2 让判断可见:可审计性要内建,上线前问三个 P
  1. 让判断可见的工作流是 JUSTIFY → DOCUMENT → TEST → QUESTION;可审计性必须内建进开发过程,四层是 TRACE → DOCUMENT → REVIEW → CHALLENGE
  2. 上线前三问 PEOPLE、POWER、PROOF:谁受影响、谁定义目标和谁能质疑、什么证据才够;POWER 这一组最容易被漏掉
  3. 两套四步的第一步不同:JUSTIFY 说清为什么做,是意图;TRACE 记下发生了什么,是事实
  4. QUESTION 是四步里唯一把外人放进来的一步:受影响的人知道后果,独立评审者知道盲点
  5. 部署之后没有模型是中立的:模型分配关注、机会、风险和资源,数据科学家要让判断可见、检验效果、对承受结果的人保持可问责
L04a-1 · L04a-1 伦理放在流程里:三阶段三职责与三句口诀
  1. 三阶段三职责:CLEAN 守住数据边界、MODEL 让模型站得住、DEPLOY 为影响做准备,顺序是数据在项目里流动的真实顺序
  2. Integrity Mantra 三句:Permission before cleaning、Purpose before prediction、Impact before launch,约束的是顺序,不是内容
  3. 把伦理推到项目末尾,代价不是审得不严,是那时已经没有便宜的修改余地
  4. 伦理不是项目末尾的一次签字,三个问题各自挂在一个交接点上,每次只问一个
  5. 三句口诀的 Y 是工程师本能上想先做的事(清洗、预测、上线),X 是容易被往后推的事(许可、目的、影响)
L04a-2 · L04a-2 第一道门 CLEAN:洗干净不等于有权用,公开可见不等于可以复用
  1. 把数据洗干净不等于取得使用许可;四类越界动作按隐蔽程度递增是重新利用、合并、富化、越界暴露,中间两条最危险
  2. 知情同意三条件 KNOW、ACTION、DECISION,许可要跟着每一次变换走,不只在首次采集那一刻
  3. 公开可见不等于可以复用:能不能拿到是技术问题,该不该这么用是伦理问题
  4. 清洗环节的 Professional Rule:建一份可重复的清洗模板,把技术变更和许可、隐私检查记在同一份记录里
  5. RIGHTS、PRIVACY、PURPOSE 是设计约束,在复制、合并、清洗、建模之前就限定能做什么
  6. 匿名性取决于对方手上还有什么数据,两份各自匿名的数据合并后可能唯一指向具体的人,这叫重识别
L04a-3 · L04a-3 建模与部署两道门:目标变量是价值选择,部署要为防护失效做准备
  1. 目标变量是一次价值选择,三种出错方式是代理太窄、敏感属性被间接推出、历史标签未经审查
  2. 负责任的基准测试要测整个决策:目标、输入、取舍、生产条件、对人的后果;反面做法是只追指标、忽略数据泄漏、把假阳性和假阴性当成代价相同
  3. 部署阶段四职责按时间排:FORESEE 在上线前、CONTROL 配置访问、LOG 留痕、MONITOR 上线后持续;落地机制是 RESTRICT、LOG、PLAN、LAYER
  4. 负责任的部署要为某道防护不够用的那一刻做好准备,并回答谁承担后果;承诺不出事不算准备
  5. 工程师的 integrity gate 是三个主问题加六个子问题,按清洗、建模、部署三个流程阶段各问一个主问题
L04b-1 · L04b-1 公平先要会写条件:条件概率、群体与交叉性、四个符号、删列为什么不够
  1. 条件概率 P(Ŷ=1 | A=a) 读作「在 a 组里被判为正的比例」,竖线右边的条件决定分母是谁
  2. 群体公平要求避免基于受保护群体身份的差别对待、差别访问或差别结果;群体不总是单一维度,要按交集拆开看
  3. 四个符号:X 是输入(招生例子里是 DSE 成绩),A 是群体归属,Y 是真实结果,Ŷ = f(x) 是模型预测
  4. Y 是真实发生的事,Ŷ 是模型猜的事;三个公平指标的差别全在竖线右边放不放 Y、放 Y=1 还是 Y=0
  5. 仅删敏感属性不能保证公平;居住地、就读学校、文书材料、成绩分布等相关特征可能充当代理变量
L04b-2 · L04b-2 三个公平指标怎么算:混淆矩阵、Statistical Parity、Equal Opportunity、Predictive Equality
  1. TPR = TP/(TP+FN) 的分母是全部真实为正的人,FPR = FP/(FP+TN) 的分母是全部真实为负的人,选错分母是最常见的计算失误
  2. Statistical Parity 比各组的正预测率,写作 P(Ŷ=1 | A=a) = P(Ŷ=1 | A=b),它是三个指标里唯一不需要真实标签 Y 的
  3. SP 的长处是好查、能纠正历史、易获公众信任;短处是忽略 merit、可能变成 lazy fairness、要付准确率代价
  4. Equal Opportunity 比 TPR,管的是漏掉合格的人;Predictive Equality 比 FPR,管的是误判真实为负的人
  5. Equalized Odds 要求 TPR 和 FPR 同时相等,满足它一定满足 EO 和 PE,反过来不成立
L04b-3 · L04b-3 公平指标会打架:准确率与群体结果、群体与个体、三族与不可能性
  1. 准确率与群体结果会冲突:按历史分数挑人最准,两组录取率却可能是 68% 对 18%;强制统计均等会让一些高分者落选、整体准确率下降
  2. 选边依赖前提:接受「不平等的结果反映的是不平等的机会,不是申请人的价值」,SP 就是纠偏;不接受,SP 就是在惩罚努力
  3. 群体均等不等于个体均等:两组 FPR 都是 8% 只说明 PE 达标,阈值附近的个人仍可能被误判,群体统计不能代替个案复核
  4. 三族划分:Independence 要 Ŷ 独立于 A,Separation 要给定 Y 时 Ŷ 独立于 A,Sufficiency 要给定 Ŷ 时 Y 独立于 A
  5. 补充定理:所有事件概率都大于零且各组基础率不同时,Separation 与 Sufficiency 不能同时成立
  6. Predictive Equality 比 FPR,属 Separation;Predictive Parity 比 precision,属 Sufficiency;名字只差一个词,族别不同
L04b-4 · L04b-4 选指标、修偏差、设门禁:从伤害选透镜,在偏差进来的地方动手
  1. 没有哪一个指标能一锤定音;能相等的有 TREATMENT、OPPORTUNITY、OUTCOMES、PREDICTION MEANING 四种,选指标要对上你想保护的那个价值
  2. 选指标先问伤害:机会被差别分配看 Statistical Parity,合格者更容易被漏掉看 Equal Opportunity,更容易被错误标记惩罚看 Predictive Equality
  3. 流水线五个选择点:DATA、LABELS、FEATURES、OBJECTIVE、THRESHOLD,每一处都可能带着关于人的假设
  4. Pre、In、Post-processing 成对记:偏差可能来自历史数据、建模选择或上线后的反馈回路,对策分别是重加权重采样、目标函数加公平惩罚、调阈值或校准输出
  5. 缓解措施在重跑 SP、EO、PE 检查之前不算证据;公平与准确率的取舍要摆到台面上,不能藏在单一分数后面
  6. 发布门禁四步:DOC 用 Datasheet 记录数据,TEST 按组报告 SP、EO、PE 差距,FIX 干预后重跑检查,WATCH 上线后就漂移和反馈回路重新审计
L05a · L05a 学术诚信入门:三个问题和四根柱子,从剽窃讲起
  1. 学术诚信是信任系统:诚实产出、呈现、归属,好让别人信你的主张、材料与贡献
  2. Boundary Test 三问:主张能否追到出处、步骤或计算能否复现、能否看出谁做了哪一块
  3. 四根失范支柱:Plagiarism 未署名搬用、Fabrication 从无到有造、Falsification 操纵材料流程或数据使记录失真、Code Theft 缺许可与署名的代码复用
  4. 剽窃的范围包括想法、过程、结果和文字;改词序但保留原逻辑与独特类比、又不引用,仍是剽窃
  5. 避免剽窃四条:少引并加引号、从自己的理解改写、每个借来的想法都引、复用的图表与方法要标注
L05a-2 · L05a-2 捏造与篡改:凭空造和在真数据上动手脚,怎么分
  1. Fabrication 是完全捏造数据或结果:造出从未发生的观察,只为填缺口或迎合预期
  2. Falsification 是操纵材料、流程或数据,使记录失真;判据是造成假象(create a false impression)
  3. 删掉破坏趋势的行、调坐标轴藏方差是篡改,即使数据本身是真的
  4. 改数据不一定是 Falsification:按事先定好的规则清洗、保留原始、披露变换,记录仍然如实
  5. 修复四条:保留未编辑的原始记录、分析前先定排除规则、披露全部数据变换、诚实报告局限
L05a-3 · L05a-3 代码盗用与引用:公开的代码也有主人
  1. Code Theft 是把别人的代码当成自己的,或在缺少必要许可与署名的情况下复用
  2. 公开可见的代码不是无主的;边界是 permission、attribution、以及任务本身的规则
  3. 安全复用四条:Check the License、Keep Headers、Document Changes、Cite the Repository
  4. 引用数据与代码要写清 creator、exact version、license、what you changed
  5. 引用公式:代码写 Author (Year). Title [Software]. Version. URL/DOI;数据集写 Creator (Year). Title [Dataset]. Repository. DOI;必须含确切版本或 commit hash
L05a-4 · L05a-4 后果与预防:一次捷径怎样扩散,诚信怎样边做边建
  1. 一次未制止的失范会变成验证问题、信任问题,有时变成勘误或调查
  2. 检测点名三处记录:文本出处、仓库历史、原始数据记录
  3. 预防是工作流不是交作业前扫一遍:Capture、Check、Cite、Communicate、Commit、Confirm
  4. p.15 四步 CAPTURE、COMMIT、CHECK、DISCLOSE 与六步同族,默写以六步为准
  5. 出错后的三格下一步:Locate or Replace / Document and Disclose / Verify Permission
L05b · L05b 合作与署名:谁该写进作者栏,贡献怎样留下证据
  1. 负责任的作者同时拿走实质知识贡献的信用并承担诚信责任;署名不是资历或友情的奖赏
  2. 署名看知识贡献与责任;经费、行政、语言润色通常进致谢
  3. Ghost 是漏掉该写的人,Gift 是按地位挂名;两种失衡要分别检查
  4. 署名为什么重要:Credit 谁被认可、Accountability 谁来负责、Visibility 哪些劳动看得见
  5. 用贡献矩阵按角色而非头衔记账;仓库历史是署名证据
  6. 可引用仓库 Starter Pack:README / LICENSE / CITATION.cff / Release+DOI / CONTRIBUTING
L05b-2 · L05b-2 作者顺序、活协议与争议:先谈好,常更新,谈不拢按序升级
  1. 作者顺序依学科而定,没有全球统一规矩;排序逻辑要尽早谈妥并写下来
  2. First Author 主要工作与写作,Last Author 常为 PI,Corresponding Author 负责对外联系
  3. 署名是活协议:Talk Early / Log Often / Revisit Always
  4. 难谈的对话从身份和情绪改口到具体贡献、外部标准和共同证据
  5. 争议升级按序走 Dialogue → Mediate → Escalate,每一段先回到证据
L06a · L06a IP 与开放科学:拿得到不等于可以用
  1. IP 是对原创成果的法律权利,加上别人怎样使用它的规则;习惯三问是谁创作的、有什么权利、给了什么许可
  2. 一个项目文件夹是一捆不同资产:表达性成果通常涉及版权,汇编与标识可能涉及数据库或商标,技术构思可能涉及专利;先分资产再选许可
  3. 开放科学包括透明、可获取(在可行范围内)、可复现、可参与,不等于全部上传;开放之后仍有署名、许可、隐私、安全四方面责任
  4. 开放不等于无主:开放是权利人的选择,署名几乎总是需要的
  5. 读许可三步 Find、Check、Follow;Check 逐项查 use、modify、redistribute、commercial 四个问题
L06a-2 · L06a-2 三类许可:MIT、GPL、Creative Commons 各要你做什么
  1. MIT 广泛复用但须在副本或实质性部分中保留版权声明与许可文本,软件按 as is 提供
  2. GPL 可以运行、研究、修改、再分发;分发时须提供对应源码并保留声明,只在本机修改运行不触发
  3. CC 是模块组合:BY 署名、SA 相同方式共享、NC 非商业、ND 不分发改编版本;SA 和 ND 互相矛盾,官方六种许可里没有同时含两者的组合
  4. MIT、GPL、CC 不能互相替代:要广泛复用选 MIT,要求改进回馈选 GPL,内容或数据选 CC;CC 一般不用于软件代码
  5. 读任何许可都用同一套四问:能否使用、修改、再分发、商用,再看要满足什么条件
L06a-3 · L06a-3 依赖拼图与引用:组合起来的许可冲突,以及怎样写明来源和版本
  1. 每个组件单独合法,组合后各许可的义务可能互相冲突:GPL 要求分发时整体给源码,专有组件不许公开,同时存在就可能无法发布(legal limbo)
  2. 加依赖之前先查许可,并在 README 里列出每个上游依赖的许可
  3. 遵守许可是法律层面,引用是学术层面,两者都要做
  4. 引用三要素:PROVENANCE 来源、VERSION 版本、PERSISTENCE 持久链接(DOI,不用临时 URL);代码复用时 commit 哈希起版本号的作用
  5. 项目层面三件事:CITATION.cff 机器可读引用、README 列依赖及许可、Requirements 固定版本号
  6. 版本号和 DOI 解决可复现,许可和署名解决合法使用,缺一不可
L06b · L06b 版权与专利:算法到底受什么保护
  1. 版权保护具体表达(代码、README 文字、UI 布局),不保护想法(通用算法、神经网络概念、数学公式),表达一旦固定在载体上就自动受保护
  2. 算法本身不受版权保护,实现它的源代码和文档受版权保护;归属还要看合同和团队约定
  3. 专利三要件:novel 新颖、useful 实用、non-obvious 非显而易见;要充分公开到本领域技术人员能实施,用公开换有期限的排他权
  4. 软件或算法类发明能否获专利,看技术效果、具体用途、新颖性,并且取决于法域
  5. 版权创作并固定后自动产生,期限按法域(课件写 life + 70);专利要正式申请,通常自申请日起 20 年;对学生版权是主要关注点,记得给代码加许可
L06b-2 · L06b-2 商业秘密与发布:公开方法、保护实现,发布前问四件事
  1. 商业秘密是带来竞争优势的保密诀窍,靠保密受保护、没有固定期限;推到公开仓库后保密性无法恢复(You cannot un-leak),处理顺序 SECURE IT → RESTRICT ACCESS → DO NOT PUBLISH
  2. 开放科学是有意识的发布:公开方法(算法设计、训练流程、评估设置、文档),必要时保护实现(微调、数据管线、业务逻辑、定价)
  3. 发布前四问:Who owns it? Is it sensitive? Which license? Can it be run?
  4. 作品集是一次公开发布:LICENSE 文件、README 写数据来源和许可、.gitignore 排除密钥和受限数据、对借用的东西署名
  5. 团队项目第一周就定仓库许可、发布计划和归属;下载模型时代码、权重、数据集的许可要分别查
L07a-1 · L07a-1 隐私与知情:签了字不算数,人真听懂才算
  1. 收集前尊重 privacy(谁可以接触这个人),全程守住 confidentiality(交给团队的信息谁能看、看多久)
  2. Belmont 三原则:Respect for Persons 推出知情同意,Beneficence 推出风险收益评估,Justice 推出公平招募,不因为好找就招
  3. 真同意是 informed、voluntary、on-going;签字不证明理解;teach-back 检查的是解释,不是参与者
  4. 参与者至少要知道六件事:这是研究;做什么、要多久;风险和收益;数据怎样保密;有问题找谁;可以随时停止且不受惩罚
  5. 说明要用通情达理的普通人能懂的语言;收益只写预期的,不承诺结果;高于最低风险的研究还要说明受伤怎么处理
L07a-2 · L07a-2 自愿与持续同意:谁在问、能不能退、退了数据怎么办
  1. 判断自愿看两点:谁在提出请求,拒绝会失去什么;用研究者对学生的权力换参与就不是自愿
  2. 同意是一个过程:开始前讲清并留时间,进行中有重大新信息要告知,退出时说明已收集数据怎么处理
  3. 退出不受惩罚、不失去本来应得的好处;停止某项干预有可预见后果的也要讲
  4. 已收集数据有正当理由并事先说明的可以保留;真正匿名后单条记录无法找回删除
  5. 绝不承诺项目做不到的退出或删除
L07a-3 · L07a-3 标识符与匿名:去掉名字不等于认不出人
  1. 直接标识符:姓名、邮箱、证件号、人脸、直接指向某人的链接;间接标识符:位置、在线标识、精细时间戳、稀有特征组合;去掉名字不够
  2. 三个标签三种承诺:de-identified 是宽泛说法要看技术;pseudonymized 有钥匙仍是个人数据;anonymous 才出 GDPR 范围,且要真匿名
  3. 删名字、哈希 ID、加代码,单靠这些都不能让数据集变成匿名
  4. 判断匿名要放在具体情境里:同一条记录换了情境、多了一份公开数据,结论就要重做
  5. 匿名化是情境中的再识别评估:能否单独挑出一人、其他可得数据集、时间、成本、技术、可预见的发展
L07b-1 · L07b-1 GDPR:管到哪里、凭什么处理、同意怎样才算数
  1. GDPR 可以越境适用:欧盟机构活动范围内的处理;向欧盟境内的人提供商品服务或监控其行为;它不只管欧盟公民,也不是欧洲能打开的网站都管
  2. 第 5 条七项原则:合法透明、目的特定、数据最小化、准确、安全、存储限制、问责
  3. 第 6 条六种合法依据:同意、合同、法定义务、切身利益、公共任务、正当利益;同意只是其一,要选真正贴合的并记录
  4. 有效同意四条件:freely given、specific、informed、unambiguous;撤回要和给出一样容易
  5. 同意门槛高,权力差可能让它不成立;合同依据要求履行合同所必需,「对研究有用」不算
L07b-2 · L07b-2 GDPR 进阶:健康数据过两道门,泄露了 72 小时内通知谁
  1. 第 9 条特殊类别数据要过两道门:先有第 6 条的合法依据,再有第 9 条的条件
  2. 数据主体权利重要但有限定:访问、更正与限制、特定情况下删除、可携带与反对、自动化决策的保护;「是研究」不是挡箭牌
  3. DPIA 在可能造成高风险的处理开始之前做,例如大规模的特殊类别数据、某些大范围画像或监控
  4. 泄露时控制者在知悉后不无故拖延、可行时 72 小时内通知监管机构,风险不太可能时除外;处理者不无故拖延地通知控制者
  5. 可能造成高风险时才通知受影响的人,另有第 34 条例外;72 小时不是「通知所有人」的通用规则
  6. 控制者决定目的和手段,处理者代表控制者、按书面指示处理
L07b-3 · L07b-3 人类受试者与 IRB:先问是不是研究,豁免不能自己说了算
  1. 人类受试者是活着的个人:研究者通过互动或干预取得其数据,或取得、使用、研究、分析、生成可识别的私人信息
  2. 开工前先问两件事:是不是研究(系统性调查、为了可推广的知识);涉不涉及人类受试者;拿不准先问 HRPP / IRB
  3. IRB 审四项:风险最小且合理、选人公平、同意合适、隐私保密得到保护;它是保护,不是盖章,也不保证零风险
  4. 三条路径:豁免、快速审查、全体会议;路径跟着事实和机构流程走,不跟研究者的偏好走
  5. 「豁免」不等于不是研究、没有规则;「快速审查」不等于走过场;有些豁免类别仍要有限审查
  6. 「我觉得这份问卷是豁免的」不算决定;由机构指定的 HRPP / IRB 流程决定,招募、收集、访问、复用数据之前提交或咨询
L07b-4 · L07b-4 免同意、复用旧数据与数据最小化:开工前的最后一张清单
  1. 联系人困难不是研究者的捷径;IRB 只有在记录必需的认定后才能豁免或变更同意
  2. 四项认定:风险不超过最低风险;没有豁免就无法实际进行;不对权利和福祉产生不利影响;适当时事后提供补充信息
  3. 免签字(免书面记录)和免同意是两回事
  4. 现有、二手或去标识的数据不会自动落在人类受试者审查之外;去掉名字不一定去掉识别能力
  5. 最小化四法:minimise 只收需要的字段;generalise 用范围或更宽的类别;suppress 去掉稀有组合和小群体输出;control 用批准的访问控制和安全的汇总输出
  6. 开工前四问:Scope、Consent、GDPR、Data
L08a · L08a 什么是 AI 偏见:原型、人脸分类的差距和生命周期五站
  1. 算法偏见:对不同的人、情境或群体,预测或性能出现系统性的、不想要的差异;关注的是现实影响
  2. 原型悄悄顶替全部合理的例子时,偏见就开始了;与原型不同的才被额外加标签
  3. 人脸性别分类三家商用系统都是深肤色女性最差,最大差距 20.8%、33.8%、34.4%
  4. 检测、识别、性别分类是不同任务,要分开评估;群体间表现不均是系统问题,不是群体的属性
  5. 生命周期五站:数据收集、模型设计、训练与运维、评估、解读;每一站都要主动缓解,公平要持续监测
  6. 数据造成的偏见:选择、报道、采样;解读造成的偏见:相关谬误、过度泛化、自动化偏见
L08b · L08b 相关不是因果、分布偏移和类别不平衡:模型为什么学歪
  1. 相关谬误:两件事走势重合(r 接近 1)也推不出因果,常有共同的时间趋势或第三个变量
  2. 过度泛化:用有限、不多样的测试数据得出宽泛结论;分布偏移会造成神经网络偏见
  3. 类别不平衡时,每次更新主要照顾多数类,决策边界被推开,少数类被判错
  4. GBM 数据 99.997% 健康、0.003% 患病:全答「健康」的模型准确率 99.997%,却一个病人都找不出
  5. 加权:频率 × 权重 = 相等的贡献;重采样:少数类被抽中的概率更大
L08c · L08c 类内隐藏偏见、公平的定义和去偏方法:怎样发现和减轻偏见
  1. 每一类内部藏着的偏见可能更危险:人脸和非人脸平衡了,人脸里的发色、肤色仍可能不平衡
  2. 公平公式 P(ŷ=1|z=0,y=1) = P(ŷ=1|z=1,y=1):真实答案为正的人里,各组被判为正的概率相等
  3. 分组评估逐个维度看,交叉评估看维度组合;最差的往往是组合出来的子群体
  4. 去偏两条路:去掉有问题的信号(mitigation),为想要的特征加信号或重新加权(inclusion)
  5. 对抗多任务:共享表示接两个头,属性头预测 z,把它的梯度取负传回,让表示里认不出 z
  6. 去偏后整体准确率上升、深肤色子集提升、深浅肤色男性的差距缩小;结论只在一个基准上验证过
L09a · L09a 三个变量和独立:把公平写成能检查的式子
  1. G 是组别(你是谁),S 是选择(机器的决定),T 是真实目标(机器想看清的真相)
  2. 按 S 和 T 每个人落在四格之一:真正例、假负例、假正例、真负例;再按 G 分开共八种组合
  3. 比较各组看比例(选中人数 ÷ 组内人数),人数相同不等于比例相同:8/12 = 67% 和 8/24 = 33%
  4. S = T 是完美选择器(最有用),S = G 是纯粹按组选(最偏)
  5. 独立 A ⊥ B:Pr(A = a) × Pr(B = b) = Pr(A = a 且 B = b);S ⊥ G 就是各组被选中的比例相同
  6. 条件独立 A ⊥ B | C:不知道 C 时 A、B 看起来相关,知道 C 后互不提供信息;C 是共同原因
L09b · L09b 公平六件套:六种把公平写成独立的方法
  1. 上排直接独立:人口均等 S⊥G(各组选择率相同)、人人平等 T⊥G(各组基率相同)、目标无关 S⊥T(选择不看真相)
  2. 下排条件独立:等几率 S⊥G|T、预测均等 T⊥G|S、分层无关 S⊥T|G
  3. 人口均等不涉及 T:一个完全不看才能的选择器也能满足它
  4. T⊥G 是对现实的断言,任何算法都不能单靠自己实现它
  5. 平等乌托邦:S = T 加上 T⊥G,S⊥G 自动成立
  6. 等几率比的是错误率:有才能的人里 TPR 相同,其余人里 FPR 相同
  7. 预测均等(又叫 sufficiency):被选中的人里真正有才能的比例在各组相同,选择信号对每组意思一样
  8. 分层无关:每组内部抽签,组间名额可以不同;它公不公平全看名额怎么定
L09c · L09c 公平定义的冲突:基率不同时只能挑一条
  1. 人口均等推不出等几率,等几率也推不出人口均等,课件用同一个池子各画一个反例
  2. 命题 1:S⊥G ∧ S⊥G|T ⇒ T⊥G ∨ S⊥T,人口均等加等几率,只剩基率本来相等或选择器不看才能
  3. 命题 2:S⊥G ∧ T⊥G|S ⇒ T⊥G,人口均等加预测均等,必然推出基率相等
  4. 组间差距可以完全来自构成:每个学位层内表现一样,持学位比例不同,整体比例就不同
  5. 同一个池子:只有人口均等通过,其余五条都不通过;基率不同且选择器有用时,六条不能同时成立
  6. 课件 p.34 等几率一格应为 75/0 vs 75/37.5,判定仍是不通过,原因只在 FPR
L09d · L09d 选择公平:去掉组别不管用,按场景挑定义并公开审计
  1. 不可能结果很常见:Arrow 定理说没有投票规则能同时满足一小组公平公理,Simpson 悖论说合并数据能反转每个子组里的趋势
  2. 去掉 G 不等于公平:选择器能通过姓名、学校、社团、街区等代理变量重新读出组别,盲不等于中立
  3. 公平是选择,不是勾选框:招聘配等几率,大学录取配人口均等,借贷保险配预测均等,公屋和奖学金抽签配目标或分层无关,警务在等几率和人口均等之间争论
  4. 取舍是价值判断就要公开:公布选了哪条指标和理由、按组列出错误率、像辩论法律一样接受审视
  5. 审计要从表开始:定义比较的组、数每组的 TP/FP/FN/TN、算选择率/TPR/FPR/PPV、按场景挑定义、公开辩论;填不出格子就不能声称公平
  6. 六件套之外还有因果公平(换了组别决定会变吗)和个体公平(相似的人是否被相似对待)
L10a · L10a 生成式 AI 能帮研究做什么:流畅不等于正确,每一步都留人核查
  1. 生成式 AI 用日常语言下指令,当场组装出文字、代码、图片或音频;它产出最合理的续写,不去数据库查标准答案,所以流畅不等于正确,答案里也没有记号告诉你哪句对
  2. 四个机会:灵感与文献检索;数据收集、写代码、分析;非英语母语作者的公平起点;编辑部的质量控制。好用法是辅助不替代,每一个都留人来决定接受什么
  3. 机会 1 的结论是可以接受、条件是核查:模型给地图,不知道哪些论文真实存在;每条参考文献当线索不当来源,打开对照原文,留下或丢掉
  4. 机会 2 的四张卡是 Collect、Code、Analyse、Verify:研究者决定什么算有效观测;脚本写得更快更一致;速度招来过拟合,分析方案要事先定好;每个输出都对照原始数据核查
  5. 留审计痕迹:拿不出提示词、脚本和核查记录,就没法为那个数字辩护
  6. 四阶段四检查点:数据收集要每个变量追溯到真实观测;代码要读、用已知数据测试、保留版本;分析要不靠模型复现结果;写作汇报要每句话对得上手里真有的数据
  7. 四张卡的第四项是 Verify,四阶段的第四项是 Reporting,核查拆进了每个阶段的检查点,两种分法别混
L10b · L10b 辅导、编辑部与数据去向:AI 能帮忙,签字和保密还在人手里
  1. 语言辅导:同一项研究,英文犹豫时审稿人的红笔落在句子上,润色后评判回到证据上;结论是可以接受,但要披露
  2. 把模型当副导师的条件是严格的人在环:论证、证据和伦理由学生签字认可,工具不签;不会出错、不能被质疑、不能被辞退的导师不算导师
  3. 不知疲倦的 tutor(一个方法讲三种说法、给自己的论断找反方论证、排练答辩问题)是正当的教学支持,替代不了导师指导;三条限制:导师仍然负责、学生能为每一句辩护、机密数据不进提示词
  4. LAMBDA 是 PolyU IHERD 的开源、免代码多智能体平台:学生用日常语言提问 → Programmer 智能体写代码 → Inspector 智能体检查改进 → 数据被清洗、画图、评估;对诚信有意义是因为流程可见、环境由机构管理、老师看得到答案怎么来的
  5. 编辑部质量控制查图像篡改或重复、数据不一致或不可能、文本重合与剽窃、统计异常,也管数据完整性、报告质量、造假信号和同行评审前的初筛;可以接受的三个条件是告知作者、由人类编辑决定、在获准处理机密稿件的基础设施上运行
  6. 工具是饥饿的:粘贴进去的都成了材料;条款因产品、套餐和设置而异,消费级账号可能默认拿内容改进模型;版权另算,你可能不拥有产出;规则是不能公开发表的别粘贴,粘贴任何东西之前先读数据设置
  7. 个人账号对机构部署:默认可能用于训练对合同写明默认不训练,没有留存控制对可配置留存期限,没有审计记录对单点登录、角色和审计日志,你是唯一防线对加密和数据处理协议;更贵,买的是数据留在里面的房间,房间里仍要规则、培训和审查
L10c · L10c 四类风险与署名:AI 让老毛病变快,签名只能留给人
  1. 四类风险是幻觉、微剽窃、偏见、捏造;它们都不是新问题,新的是速度、规模和包装
  2. 幻觉是填好的答案:带着像真的引用,和正确内容同一个语气;拿不出能打开的来源的说法,当传言处理
  3. 微剽窃三步是截取、重组、发表;单句查重抓不到,只有模式级比对或懂行的人能发现;它仍是剽窃,署名欠的是想法,不只是原文字句
  4. 偏见是继承来的:用偏斜文献训练的模型会流畅地复制偏斜,没法当 bug 修掉,只能和它争论;先问模型用什么训练,再问它得出什么结论
  5. 课件演示:约 15 分钟生成一篇可信的完整论文,参考文献看似合理、格式规范却是编的;观众发现一条参考文献的年份还没到
  6. AI 不能当作者:署名是责任声明(这是我的、我能辩护、我能被追责);模型不能被质询、不能被处罚、不能表示同意,没有问责就没有署名
  7. 不知道工具做了什么不构成辩护,这本身就是过错;用工具的人像家长一样仍要负责
L10d · L10d 活的守则与披露:规则要能改,用了 AI 要写清楚
  1. 通用科研诚信守则不用重写;要写的是 AI 使用守则,按起草、编程、数据分析、图像、同行评审、指导学生等具体任务列出能做和不能做的事
  2. 守则追着技术跑:征求意见要一年,工具一个月发一版;守则要像软件一样维护、编版本、持续修订
  3. 课件给出的数字是全球 80 多份守则,实质使用的定义、披露格式和位置、同样行为的后果各不相同;统一协调比再写一份更要紧
  4. 把做法写成可修订的过程:dynamic 按周期修订并公开变更日志,flexible 用原则加案例不列工具名,stay close to practice 和做研究的人一起写
  5. Codes are nothing, coding is everything:coding 指制定守则时的讨论过程,不是编程;没人辩论过的守则没人遵守
  6. 冻结守则条文、例子、工具名都固定,没人负责更新;活指南的 living 要靠指定负责人、修订周期、公开变更日志、展示规则用法的案例
  7. 披露 WHEN:Deciding、Generating、Analyzing 三类有意且实质的使用要披露,按课件黑框任一成立就披露;拼写检查这类偶然帮助不用
  8. 披露 WHAT 和 WHERE:工具和模型名、版本和日期、任务、提示词或摘录、保留修改或弃用了什么;Methods 写一段,完整记录进 Supplement,不埋进致谢
L10e · L10e 论文工厂与撤稿缺口:把视角从个人拉到整个系统
  1. 研究记录被污染的链条:有缺陷的论文有时能通过同行评审,许多从未被撤稿,被撤的仍在被引用;后果是研究者追错线索、系统综述受损、循证指南被带偏
  2. 论文工厂是一门生意:按订单写稿、编造数据、保证录用、按篇收费;生成式 AI 补上了缺的厂房,产品是一份看起来像科学的资格凭证
  3. 论文工厂卖三样东西:署名买卖、引用刷量、编辑通道;劫持期刊仿冒名刊收了费却不发表,被收买的编辑或被供应的审稿人让工厂只需要一把钥匙
  4. 撤稿缺口:约 0.1% 的已发表论文被撤稿,超过 2% 符合撤稿标准;按 2.0 ÷ 0.1 算出的 20 倍是下限,课件没给数据出处
  5. 检测用同一种技术:图像筛查、文本筛查、引用图谱、统计标记四类;能生成像样论文的模型,也能读一万篇找出重复的那一段
  6. 四方各担一部分:机构定激励和数据政策,出版方守门、规模筛查、快速更正,资助方握着钱所以定规则,研究者决定、披露、核查;最弱一环通常是损失最小的一方
  7. 激励链:不发表就出局 → 数量压过质量 → 论文工厂补上需求 → 信任被侵蚀;杠杆最长的干预是评价改革,改变招聘委员会数的东西
  8. 按回车前四问:目的、后果、披露、问责;四个问题都问研究者,不问技术,所以这些原则能撑过每一次模型更新