L01 Ethical Gray Areas：先认出冒牌的伦理，再拿三把尺去量

一句话版

伦理不等于感觉、共识和法律；用三把尺加一本行业手册去量具体场景。

一个类比：刚拿到驾照的头一年

刚拿驾照的人每天都在做同一类判断：我这么开，算开得对吗。手边有三种靠不住的依据。感觉——「这个路口我瞄了一眼，没车」，可越赶时间越觉得能过。大家都这么开——限速六十的路上车流跑八十，于是八十成了「正常」。交规——交规写的是不被罚款的下限，暴雨天开到六十不违章，那仍然是错的开法。课件用十三页剔的就是这三样，第十五页才给正面定义：伦理是对道德原则的系统性研究，提供一个区分对错的框架。

能用的依据有三把尺：这么开会有什么结果、有没有违反该守的规则、一个负责任的司机会不会这么开。再往上还有车队发给职业司机的行车守则，比交规细，也是出事后追责的依据。ACM Code 在这一讲里就是这本手册。

类比在哪里失效：开车有交警和保险公司当外部裁判，同一个动作最后只有一个定论，伦理没有。课件 p.25 那份 2009 年的调查里，职业哲学家在三套理论之间几乎平分，占比最高的选项还是 Other（32.3%），三把尺甚至会给出互相冲突的答案。开车的后果当场可见，Maya 案里的伤害却要等三份数据被拼起来才显形。

概念卡

1. 三个冒牌货（Feelings / Social Beliefs / Laws）

人话定义：伦理最常被这三样冒名顶替，分辨看的是压力从哪来。

例子：课件 p.5 里病人 A 是关系亲近、救过几十条人命的同事，状态稳定；病人 B 是臭名昭著的罪犯，生命体征危急。答案是先救 B（p.6），三条理由是临床紧急度、临床中立、职业义务，底下一句 treat the one who needs you most。这个设计同时关掉了偏爱与厌恶。

常见误解

把 Social Belief 和 Social Norm 当同义词 → Belief 是大家认为什么是真的，Norm 是大家认为什么做法可以接受，前者是认知后者是行为。加班文化里，信念是「成功由产出和工时衡量」，规范是「老板不起身，谁也不敢收拾桌子」（p.7、p.8）。

2. 三把尺（Consequentialism / Deontology / Virtue Ethics）

人话定义：三个副标题就是三把尺的刻度——Results、Rules、Person。p.24 那张对照表把它扩成两列，逐字背下来：

框架	Focus	Key Question
Consequentialism 后果论	Outcomes and Results	What result is best?
Deontology 义务论	Rules, Duties, and Universal Rights	Is the act itself right?
Virtue Ethics 德性伦理	Character and Intent	What would a good person do?

例子：后果论下面还分三支，差别只在为谁最大化：Ethical Egoism 为自己，Ethical Altruism 为他人，Utilitarianism 为最多数人（p.16）。德性伦理问的是「我应该成为谁」，终极目标是 Eudaimonia 即人的繁盛；中庸之道那根轴上怯懦是不足、鲁莽是过度，中间那格课件只写了 Virtue（p.21、p.23）。

常见误解

把 Eudaimonia 译成「快乐」→ 它是人的繁盛，算的是一辈子的账，后果论算的是一次行动的账，时间尺度不同。另一个误解是把中道当算术平均，课件的措辞是感受「恰当」分量的情绪，恰当与否要看场合（p.23）。

3. ACM Code 的四大板块与 Section 编号

人话定义：Code 表达的是这个行业的良知，既用来启发指导，也在违规发生时充当补救的依据（p.27）。Section 编号的首位数字就是板块号：

#	板块	管谁	本讲点名的条款
1	General Ethical Principles	对所有人	1.2 Avoid Harm、1.3 Honesty、1.4 Be Fair、1.6 Respect Privacy
2	Professional Responsibilities	对手艺	2.1 High Quality、2.4 Review、2.5 Comprehensive Evaluation
3	Professional Leadership Principles	对组织与公众	3.1 Public Good
4	Compliance with the Code	对行业本身	Elena 举报导师那一页

例子：四个职场场景把「条款 → 判断 → 支持的理论」做了十一次映射。Alex 发现患者数据系统有 bug、经理要他压三个月，Avoid Harm、Be Honest、Respect Privacy 三条全由 Utilitarianism 加 Deontology 双路支持（p.30）；Sarah 被逼跳过安全测试，理论组合换成 Virtue Ethics 加 Deontology（p.31）。

常见误解

把 Code 当成查表就出答案的算法 → 课件原话是 Code 不是解伦理问题的算法，只帮你做出伦理选择，面对具体问题往往要同时考虑好几条原则（p.28）。数据科学最常引的四个编号是 1.2 Avoid Harm、1.4 Be Fair、1.6 Respect Privacy、2.5 全面评估（p.35、p.40）。

把它们串起来

整讲是一条直线：破十三页、立一页、发三把尺、拿电车试尺、换成职业手册。破的部分占这么大比重，是因为认出冒牌货比背定义更难。

三把尺和 ACM Code 的接缝在 p.34：伦理框架提供思考的 how，职业准则提供特定共同体的 what，它在抽象哲学和日常编码决策之间架桥，并设定一个集体标准，让你不必独自面对道德困境——这解释了 Sarah 凭什么顶得住经理的压力。

落到答题动作上，工具是 p.36–37 的四步法。

四个场景和 Maya 案共同的形状是 Integrity vs Authority，答案都是职业义务高于服从。

课件里的坑

• [课件有误] p.17 副标题印成 Navigating the Ethics of Life and Depth → 按上下文应是 Death；同页标题与副标题重叠属排版问题
• [口径差异] p.20 把「推人违反规则/权利」放在 Mill 一侧 → 教学简化；可用规则功利主义解释，但不等于密尔对该情境作过此判断；p.24 只列框架未归哲学家
• [统计口径] p.25 的 3226 是全体参与者，931 是目标院系教师样本，不是「只有 931 人回答此题」。表内 Other=301/931≈32.3%。补充来源：PhilPapers 原始统计。
• [课件有误] p.31 Sarah 页 Respect Rules 那一格的说明文字是从 p.30 Alex 页的 Be Honest 复制来的，写的是保持沉默具有欺骗性，与遵守行业规范无关，属串页，不要背
• [课件有误] p.38 把随机化的用户哈希称作 quasi-identifiers，用词不准，随机哈希只是化名

课后 10 分钟：考点复习

这 10 分钟怎么用：合上页面，先默写三条——三个冒牌货怎么分辨、三把尺各自的 Focus、四步法的顺序；再把下面的「变式题」做一遍；最后回查两个最容易错的地方——把 Social Belief 和 Social Norm 混为一谈、把 Code 当成查表就出答案的算法。三步做完再往下看答案。

两份评估都是场景式伦理分析，没有期末考试。Online Quiz 是每个 module 一份的选择题，最容易出题的是三个冒牌货的分辨、三框架对照表、Section 编号归属这类有唯一答案的点；Written Assignment 是学科相关的场景分析，用得上的是四步法和四个场景的映射模板。背结论没用，要练把框架套到陌生场景上的手感。

必背

1. 伦理不是感觉、不是社会共识、不是法律；分辨看压力来自哪里——内心不忍是 Feelings，大家都这么做是 Social Beliefs，写在条文里是 Laws
2. Social Belief 是大家认为什么是真的，Social Norm 是大家认为什么做法可接受；加班文化里信念是成功由工时衡量，规范是老板不走谁也不走
3. 法律是地板，伦理是天花板；归谬论证是若伦理只是社会信念的镜子，道德进步就不可能发生
4. 三把尺的 Focus 与 Key Question：Consequentialism 看 Outcomes and Results，问 What result is best；Deontology 看 Rules, Duties, and Universal Rights，问 Is the act itself right；Virtue Ethics 看 Character and Intent，问 What would a good person do
5. 电车两版若只比较确定死亡人数都是 5 换 1；后果论也可考虑长期后果，义务论着重行为与权利——推人是把人仅仅当作工具；Bentham 在乎快乐的 quantity，Mill 主张 quality
6. ACM Code 四大板块依次是 General Ethical Principles、Professional Responsibilities、Professional Leadership Principles、Compliance with the Code，Section 编号首位数字即板块号
7. 数据科学四个必记编号：1.2 Avoid Harm、1.4 Be Fair、1.6 Respect Privacy、2.5 对系统影响与风险做全面评估
8. 案例分析四步 Consider → Analyze → Review → Evaluate；最容易漏的两问是还缺哪些信息、有哪些替代行动

完整例题

这门课没有计算题，这一格换成案例判断。题面用课件里跑完整流程的那个案例：Maya 的城市规划项目（p.38–42），请用四步法给出完整分析与结论。

① Consider（了解）：行动者是 Maya、她所在的城市规划非营利组织、合规委员会、她的经理；利益相关方是三份数据背后的居民，尤其是被合并进同一画像的那批通勤者。可观察的影响是一份用于城市规划决策的相关性分析，预期之外的影响是一个高风险的监控工具。还缺的信息：三份数据各自的使用边界写了什么、居民在原始采集时同意的用途是什么、那 2% 的合并错误落在谁身上。

② Analyze（分析）：受影响的权利是隐私与不被错误分类的权利。关键技术事实有两条——随机哈希只去掉了直接标识，通勤路线这类行为模式被完整保留；连接算法把不同通勤者合并成同一画像，错误率 2%。适用的条款按层级分：1.6 Respect Privacy 管重新识别，1.2 Avoid Harm 管推送被污染的数据造成的系统性伤害，2.1 High Quality 管把速度置于质量之上，3.1 Public Good 管未把公共利益作为首要考量。p.40 把重新识别这件事画成了三层叠加：

③ Review（回顾）：影响选择的是合规委员会的签字和经理把 bug 标为低优先级这两项授权。替代行动不止「照做」和「辞职」两个：可以先把局限与潜在问题写成书面说明，可以推动 GitHub 同行评审，可以要求把公共利益而非低优先级标签作为判断依据。

④ Evaluate（评价）：合规委员会的逻辑有一个硬伤——每份数据合法是法律判断，合起来完全安全是伦理判断，两者之间没有推理。结论：Maya 不应照原样上线。她的三个动作各挂一条 Section——保持透明对应 1.3 Honesty，推动同行评审对应 2.4 Review，把公共利益置于经理的标签之上对应 3.1 Public Good（p.42）。这三个动作都是建设性的、留痕的、可被复核的，比「辞职」或「直接捅给媒体」更符合 Code。

变式题（先自己做）

换一个陌生场景，用四步法走一遍并给结论：

外卖平台要上线「骑手疲劳度预测」。数据是骑手手机的运动传感器记录，同意书里写的用途是导航与路线优化。疲劳分高的骑手会被系统自动减少派单，产品经理说这是为了保护骑手，但骑手收入按单结算。模型误判率 8%，且对传感器精度较低的旧手机用户误判更高。法务确认「数据都是自家采集的，没有法律风险（这是题设人物的主张，并非本笔记的法律结论）」。

提示

四步里最容易写空的是第三步。先别急着下结论，把「除了照做和拒绝之外还能做什么」列出来两三条。另外注意法务那句话的逻辑形状，和 Maya 案里合规委员会那句很像。

参考答案与自检（非官方评分标准）

自检要点：① 每条判断都要挂 Section 编号，不要只写”不道德”而缺少论证；② 第三步必须给出两个极端之外的替代行动；③ 要点破法务那句话的跳步——合法不等于合乎伦理，这是本讲反复考的形状。

① Consider：行动者是算法团队、产品经理、法务；利益相关方是骑手，尤其是用旧手机那批。可观察影响是派单量下降，预期之外的影响是收入下降。缺的信息：8% 误判具体落在谁身上、骑手知不知道自己被打分、有没有申诉渠道。

② Analyze：二次使用需核查原许可是否覆盖疲劳推断 ⟹ 1.6 Privacy；减少派单可能降低疲劳风险，也会减少收入，需评估净影响 ⟹ 1.2 Avoid Harm；旧手机用户误判更高 ⟹ 1.4 Fairness。题面已给群体差异，不能说完全没有分组评估；应追问分组指标、样本量与验证质量 ⟹ 2.5 Evaluation / 2.1 Quality。

③ Review：替代行动至少三条——把分数改成给骑手自己看的提示而不是自动减单；按机型分组重测并公布差异；把「保护骑手」这个目标交给骑手一方确认，而不是由产品经理单方定义。

④ Evaluate：法务那句话的跳步和 Maya 案里合规委员会一模一样——自家采集只是数据来源事实，并不足以证明合法；即使合法，用于另一个目的且影响收入是伦理判断，两者之间没有推理。结论：不应按现状上线。团队应把已知局限书面留痕（1.3 Honesty）、推动同行评审（2.4 Review）、把骑手的实际利益而非”保护”这个说法作为判断依据（3.1 Public Good）。

闪卡自测

1. 病人 A 稳定、B 危急，课件给的答案和三条理由是什么？

先救 B。三条理由是 CLINICAL URGENCY（医疗优先级由对生命的即时威胁决定）、CLINICAL NEUTRALITY（社会地位与私人关系不得影响诊疗）、PROFESSIONAL DUTY（首要义务是依医疗需要保全生命）。核心规则是 treat the one who needs you most（p.6）。

2. 完整复述那个归谬论证。

如果伦理只是社会信念的镜子，那么道德进步将不可能发生，因为「进步」预设了有个独立于当下共识的标准可以比较。历史证据是奴隶制：几个世纪里它合法、普遍实行、被受尊敬的机构背书，废奴主义者是少数派，最终证明多数人错（p.9、p.10）。

3. 奴隶制这个例子为什么能顶两个论点用？

它当年既是压倒性的主流社会信念，又是合法的。同一个例子既驳倒「共识即对」，也驳倒「合法即对」（p.10）。

4. 网络私刑违反了哪条伦理原则？表现是什么？

比例原则。成千上万人围攻一个人时，集体行动造成的后果（丢工作、被威胁）往往远超原始过错，伦理要求公平、正当程序和共情（p.12）。

5. 法律与伦理在来源、执行、标准高度三个维度上分别怎么分？

来源上法律由政府、立法机关、法院经政治程序制定，伦理源自道德哲学、理性和基本价值；执行上法律靠外部制裁，伦理靠内在良知、个人正直与社会声誉；标准上法律确立社会运转的最低底线，伦理要求高得多的道德卓越与公平（p.13）。

6. 各举一个合法但不道德、道德但违法的例子，并说出那句 takeaway。

合法但不道德：对朋友撒谎、违背私人承诺。道德但违法：为把重伤者送医而超速。Takeaway 是我们不能把道德外包给法典，在法律沉默或不足的地方必须靠主动的伦理判断（p.14）。

7. 后果论的三个分支叫什么？唯一的差别是什么？

Ethical Egoism、Ethical Altruism、Utilitarianism。差别只在为谁最大化——自己、他人、最多数人（p.16）。

8. 默写那句关于 Code 定位的否定式表述。

The Code is not an algorithm for solving ethical problems; instead, it helps in making ethical choices。面对具体问题往往需要同时考虑好几条原则，不同情境下分量不同（p.28）。

9. Elena 案属于哪个板块？援引了哪个理论传统？

Section 4（Compliance with the Code）。她发现多年朋友兼导师故意在客户软件里植入后门，决定举报，依据是遵守道德规则的义务不可协商、与私人关系无关，并援引社会契约论：专业人士必须指出违规，才能维持社会赋予这一行业的共享信任（p.33）。

10. Marcus 案点名了哪三个德性？为什么德性伦理在这一页最密集？

wisdom、integrity、courage。这是四个场景里唯一的领导层视角，用的都是 Section 3 的条款；越是没有明确规则可依、越依赖决策者品格的场景，德性伦理越吃得开（p.32）。

11. p.41 里同一件事被哪三条 Section 各判一次？分别在什么层面？

1.2 Avoid Harm 管后果层（推送被污染的数据会导致错误的健康结论），2.1 High Quality 管手艺层（把速度置于追求高质量的职业义务之上），3.1 Public Good 管领导层（未把公共利益作为首要考量）。这正是「往往需要同时考虑好几条原则」的实例（p.41）。

12. 经理说错误率只有 2%、目标只是看大趋势，这个辩解为什么站不住？

总体 2% 错误率并未说明错误落在哪些人身上。相似路线、时段或社区是否更容易被错合并，是需要分组检验的风险假设，不是课件已给出的事实。还应评估错误对规划决策的后果（p.41）。

下一讲

这一讲发的是判断工具，下一讲发的是判断对象——算法系统在社会层面造成伤害的判据，接缝就在 p.35 提到的偏见来自训练数据、黑箱算法在高风险领域、公开不等于可用这三句话。