← DSAI5T09 全部讲次
L01b-1 · 第 1 周

L01b-1 ACM Code:四大板块和四个职场场景

从零讲清 ACM Code 是什么、不是什么,四大板块与 Section 编号怎么读,再用 Alex、Sarah、Marcus、Elena 四个场景练习把条款映射到伦理理论。

一句话版

ACM Code 是计算行业写下来的共同标准:三把尺告诉你怎么想,Code 告诉你这一行该想什么;读懂四大板块和编号,就能把职场场景映射到具体条款和理论上。

先认识这几个词

这一页要用到前面的三把尺:后果论(含功利主义)、义务论、德性伦理。

词 全称 / 读法 一句人话
ACM Association for Computing Machinery 计算机领域的专业学会
ACM Code ACM Code of Ethics and Professional Conduct 这个学会给从业者写的伦理与职业行为准则
Section 条款编号 像 1.2、3.1 这样的编号,第一位是板块号
公共利益 public good 整个社会的利益,Code 说它永远是首要考量
补救 remediation 出了违规之后,拿什么作依据去纠正
社会契约论 Social Contract theory 社会把信任交给一个行业,行业要守住这份信任

一个类比:医院的诊疗指南

刚进医院的医生学过一整套医学理论,可上了病房,他手边还有一本诊疗指南。理论教他怎么思考病因,指南告诉他这家医院、这个专科遇到这种病一般怎么处理。

指南不会替他看病。每个病人都不一样,他还要自己判断该用哪几条、哪条更要紧。但当科室主任让他「先别管那个化验结果」时,他可以翻开指南说:规定是这样写的。

ACM Code 对计算从业者也是这个用处。三把尺是理论,Code 是这一行的指南,四个场景是四次查房。

类比在哪里失效:

  1. 诊疗指南常常给出具体步骤,ACM Code 明说自己不是解题的算法,只帮你做选择。
  2. 医院的指南由医院执行,违反了有处分;ACM Code 主要靠职业共同体的信誉和成员身份约束。
  3. 病人的病情可以化验,伦理场景里「伤害有多大」常常没有现成的检测数字。

从零讲起

1. ACM Code 是什么、不是什么

它解决什么问题

三把尺是通用的,可以拿来量任何事。计算从业者天天面对的是更具体的问题:这个 bug 报不报、这个测试跳不跳、这份数据能不能用。Code 在抽象哲学和日常编码决策之间架了一座桥,还设定一个集体标准,让你不必独自面对道德困境。

从哪来(补充)

现行版本由 ACM 理事会在 2018 年 6 月 22 日通过,是对 1992 年版的更新,理由是计算技术的进步和它在社会里的渗透。ACM 自己说这次是更新,不是推倒重写;1992 年版现在标为已废弃,留作历史参考。出处:ACM: Code 2018 Update Project,ACM: 1992 ACM Code。

直觉

记两句话就够:

  • 它是什么:表达这个行业的良知(expresses the conscience of the profession),启发并指导从业者,同时在违规发生时充当补救的依据。
  • 它不是什么:The Code is not an algorithm for solving ethical problems; instead, it helps in making ethical choices。它不是解伦理问题的算法,只帮你做出伦理选择。

结构上,每条原则是一句责任声明,前提是公共利益永远是首要考量,再配上解释用的指引(guidelines)。

一步一步看

目标:拿跳过安全测试一事对照三把尺和 Code,看 Code 多给了什么、又没给什么。

用课件的「how 与 what」对照,看三把尺和 Code 怎么分工。拿「经理让你跳过安全测试」这件事走一遍。

  1. 先用三把尺,回答「怎么想」。

    工具 它给你的
    后果论、义务论、德性伦理 思考的 how:从结果、规则、品格三个角度想
  2. 再翻 Code,回答「这一行该想什么」。

    工具 它给你的
    ACM Code 这个共同体的 what:要追求高质量、遵守行业规范、接受同行评审
  3. 看 Code 还多给了什么。

    作用 在这个场景里的意思
    集体标准 你拒绝跳过测试时,背后站着整个行业的标准,不只是个人偏好
  4. 看 Code 没给什么。

    没给的 意思
    现成答案 你还要自己判断哪几条适用、哪条分量更重

怎么判断

判断一句话是不是在误用 Code:凡是把 Code 当查表答案、找到一条就结束的,都是误用。

意思是:面对具体问题,往往要同时考虑好几条原则,不同情境下分量不同;最好的办法是回到基本伦理原则仔细想,牢记公众福祉是最重要的因素。

常见误解

误解:有了 Code,伦理问题查一下就能得出答案

课件明确否定了这一点:Code 不是算法。它给出要考虑的原则,权衡还要靠你。当决策过程清晰且可问责(clear and accountable)时,整个领域都受益。

误解:Code 只是一份事后惩罚的规章

补救依据只是它的一个作用。它首先是表达行业良知、启发和指导从业者。

试一下

同学说:「我们项目查了一遍 ACM Code,没有哪条写着不能这样做,所以没问题。」这句话犯了哪个错?

答案

把 Code 当成了查表的算法。Code 只帮你做选择,没写到的地方仍要回到基本原则,问一句公众福祉有没有受影响。这和第一页「法律没禁止不等于对」是同一类错误。

2. 四大板块和 Section 编号

它解决什么问题

场景题里经常直接出现「Section 3.1」「1.2」这样的编号。看不懂编号,就不知道这条在管哪个层面。课件这一页是纯图,文字层只剩一个链接,只看文字提纲会完全漏掉。

直觉

四大板块,从对所有人到对行业本身,一层层往外走:

ACM Code 的四大板块:四栏依次是 1 一般伦理原则、2 职业责任、3 职业领导原则、4 遵守本准则,每栏列出课件图上的条目,如 Avoid harm、High quality、Public good;底部青绿框说明 Section 编号的第一位就是板块号

1 = 一般伦理原则(对所有人),2 = 职业责任(对手艺),3 = 领导原则(对组织和公众),4 = 遵守准则(对行业本身)。

一步一步看

目标:按第一位数字逐个解码课件点名的编号,看每条在数据科学里管什么。

拿课件点名的几个编号,逐个解码。

  1. 看第一位数字,定板块。

    编号 第一位 板块
    1.2 1 General Ethical Principles
    2.5 2 Professional Responsibilities
    3.1 3 Professional Leadership Principles
  2. 对上课件给的条目名。

    编号 条目
    1.2 Avoid Harm
    1.4 Be Fair
    1.6 Respect Privacy
    2.5 对系统影响与可能风险做全面评估
  3. 落到数据科学,看每条管什么。

    编号 在数据科学里管什么
    1.2 偏见与数据滥用:不公平的训练数据导致不公平的预测模型
    1.4 必须公平,采取行动不去歧视
    1.6 隐私:数据是公开的,不等于抓取或使用它合乎伦理
    2.5 黑箱算法部署在医疗、信贷、刑事司法、自动驾驶时要全面评估风险

怎么判断

判断口诀:先看第一位定层级,再看条目名定内容。

意思是:看到 3.x,就知道这条在问领导层面的责任,答题时要从组织和公众的角度写;看到 4.x,就知道它在问对职业共同体本身的义务。

常见误解

误解:图上那份清单就是 Code 的完整目录

图上是精简版。官方第 1 部分还有守密(honor confidentiality)等条目。考试按图上这份答即可,读原文时知道它是节选,就不会困惑。

试一下

一道题提到「Section 2.1」。不看条目名,你能先说出它属于哪个层面吗?

答案

第一位是 2,属于 Professional Responsibilities,管的是手艺层面的职业责任。课件后面的 Maya 案里,2.1 正是 High Quality。

3. 把条款映射到理论:Alex 案模板

它解决什么问题

四个职场场景都要做同一件事:条款 → 判断 → 支持它的理论。Alex 案是第一个,也是最整齐的一个,学会它的结构,后面三个都能套。

直觉

Alex 案里三条条款的论证结构完全一样:义务论说这是绝对义务,功利主义说这样做长期结果最好。

同一个结论由两条完全不同的路径推出来,这是最强的论证形式。

一步一步看

目标:把 Alex 案的三条条款各用两套理论论证一遍,看两条路径是否都收敛到立即上报。

案情:Alex 是医疗公司的软件工程师,发现患者数据系统的 bug 可能泄露上千用户的病历;经理要他保持沉默,等三个月后的例行更新再修,以免负面新闻。

  1. 条款一 Avoid Harm。判断:必须立即上报。义务论:保护的责任;功利主义:避免真实伤害。

    Alex 案判断第一步:案情框写患者数据系统的 bug 可能泄露上千用户病历、经理要求沉默,三个步骤中第一步青绿描边,Avoid Harm 判断必须立即上报,义务论是保护的责任,功利主义是避免真实伤害

  2. 条款二 Be Honest。判断:不得隐瞒漏洞。义务论:诚实是道德义务;功利主义:透明带来最好的长期结果。

    Alex 案判断第二步:第一步已给出判断,第二步青绿描边,Be Honest 判断不得隐瞒漏洞,义务论说诚实是道德义务,功利主义说透明的长期结果最好

  3. 条款三 Respect Privacy。判断:患者数据必须受保护。义务论:保密是患者的权利;功利主义:保护隐私能最大化社会信任与福祉。

    Alex 案判断第三步:前两步已给出判断,第三步青绿描边,Respect Privacy 判断患者数据必须受保护;底部结论框写两套理论收敛于同一结论,立即上报,不等三个月

三步走完,两套理论在每一条上都收敛,结论是立即上报,不等三个月。

怎么判断

答场景题的模板:

条款 判断 义务论一句 功利主义一句
写条目名 写该怎么做 写这是哪种义务 写长期结果为什么更好

意思是:每条条款都填满这一行,最后写「两套框架在此收敛于同一结论」。只写一套理论,说服力就弱一截。

常见误解

误解:经理的要求也是一条要考虑的伦理依据

经理的理由是避免负面新闻,这是权威压力。它说明 Alex 为什么为难,不说明 Alex 该怎么做。Code 的前提是公共利益永远是首要考量。

试一下

用模板填一行:条款 Avoid Harm,场景是你发现一个推荐算法会把未成年人引向赌博广告。

答案

判断:立即上报并停用相关推荐。义务论:有保护他人、特别是弱势用户的义务。功利主义:及时修正能避免真实伤害,长期结果最好。两套理论收敛。

4. 换场景,换理论组合

它解决什么问题

如果四个场景都写「功利主义 + 义务论」,你就没看出课件的设计。四个场景故意换了理论组合,原因是每个场景的争议点不一样。这个概念教你从争议点反推该用哪几把尺。

直觉

一句话规律:争议在「后果多严重」,用功利主义;争议在「专业的人会不会这么干」,用德性伦理;争议在「这是不是不可协商的义务」,用义务论。

越是没有明确规则可依、越依赖决策者品格的场景,德性伦理越吃得开。

一步一步看

目标:把四个场景按争议点配理论组合,看组合怎样由争议点决定。

把四个场景按「争议点 → 理论组合」排一遍。

  1. Alex:争议在后果有多严重。

    场景 争议点 理论组合
    Alex 报不报 bug 泄露病历的后果 Utilitarianism + Deontology
  2. Sarah:被要求跳过最终安全测试和同行评审,好抢先上市。争议在一个专业的人会不会这么干。

    场景 争议点 理论组合
    Sarah 跳不跳测试 职业卓越与可靠产品的义务 Virtue Ethics + Deontology
  3. Marcus:CTO 要决定是否把数据中心全部换成可再生能源。唯一的领导层视角,用的都是第 3 板块的条款。

    场景 争议点 理论组合
    Marcus 换不换绿电 短期利润与长期可持续 Utilitarianism + Virtue Ethics(点名 wisdom、integrity、courage)
  4. Elena:发现多年的朋友兼导师在客户软件里植入后门。阻力来自私人关系,属第 4 板块。

    场景 争议点 理论组合
    Elena 举不举报 对朋友的忠诚与对行业的义务 Deontology + Social Contract theory

四步走完,每个场景的理论组合都由它的争议点决定。

怎么判断

判断步骤:先用一句话写出这个场景最难的那个点,再按上面的规律挑尺子。

意思是:理论组合是从争议点推出来的,不是背出来的。Elena 案里那份忠诚是真实的感受,可它和第一页病人案里的偏爱一样,不能当职业判断的依据。

常见误解

误解:每个场景都用全部三把尺才算完整

三把尺都问一遍是好习惯,但课件在每个场景只挑了最贴切的两把。答题时可以三把都问,然后说明哪两把最能抓住这个场景的争议。

试一下

你是团队负责人,团队里的人都在用一个开源模型,但它的许可证不允许商用,没人提过这件事。争议点是什么?挑哪两把尺?

答案

争议点是「一个负责的领导会不会装作不知道」,以及遵守许可证是不是一项义务。挑德性伦理(正直)加义务论(尊重知识产权、遵守规则)。用到的条款在第 1 板块 Respect IP 和第 3 板块的领导责任。

把它们串起来

三把尺给你思考的方法,ACM Code 给你这一行要考虑的内容。Code 不替你做决定,它让你在拒绝不当要求时背后有一个集体标准。

读条款先看编号第一位定层级。用条款答题时套 Alex 案的模板:条款、判断、理论各写一句。四个场景换了理论组合,组合由争议点决定。

四个场景还有一个共同的形状:上级或朋友要你别说,答案都是职业义务高于服从。下一页的 Maya 案会把这个形状完整走一遍。

课件里的坑

  • [课件有误] p.31 Sarah 页 Respect Rules 那一格的说明文字是从 p.30 Alex 页的 Be Honest 复制来的,写的是保持沉默具有欺骗性,与遵守行业规范无关,属串页,不要背。按上下文,这一格本该说行业规范本身构成从业者的义务
  • [读图提醒] p.29 四大板块在课件里是纯图,文字层只剩一个链接,只看文字提纲会完全漏掉
  • [呼应提醒] p.33 Elena 的阻力来自对朋友的忠诚,和开头病人 A/B 那组「伦理不等于感觉」首尾呼应

课后 10 分钟:考点复习

这 10 分钟怎么用:合上页面,先默写四大板块的名字和顺序;再说出四个数据科学必记编号;最后把四个场景各自的理论组合默一遍,回查两个最容易错的地方:把 Code 当成查表算法、四个场景都写成同一套理论。

必背

  1. ACM Code 四大板块依次是 General Ethical Principles、Professional Responsibilities、Professional Leadership Principles、Compliance with the Code,Section 编号首位数字即板块号
  2. 伦理框架提供思考的 how,职业准则提供特定共同体的 what;准则设定集体标准,让你不必独自面对道德困境
  3. 数据科学四个必记编号:1.2 Avoid Harm、1.4 Be Fair、1.6 Respect Privacy、2.5 对系统影响与风险做全面评估
  4. Code 不是解伦理问题的算法,只帮你做出伦理选择;它表达行业的良知,也是违规时补救的依据
  5. Alex 案模板:义务论与功利主义在同一结论上收敛,是最强的论证形式
  6. Sarah 案换了理论组合(Virtue Ethics + Deontology),因为争议从后果多严重变成专业的人会不会这么干
  7. Marcus 案是领导视角,点名三个德性:wisdom、integrity、courage
  8. Elena 案属 Section 4,讲的是对职业共同体本身的义务,并援引社会契约论

课件例题

例 1(课件 p.30):Alex 发现患者数据系统的 bug,经理要他先别说

见下方完整例题。

例 2(课件 p.31):Sarah 被要求跳过安全测试抢先上市

题面:Sarah 是一款新金融科技 App 的主开发。发布日临近,经理施压要她跳过最终安全测试和同行评审,好抢先上市。Sarah 知道代码可能有漏洞。请列出适用的条款、各自的判断,以及支持它们的理论。

提示

这里的争议不在后果算账,而在「一个专业的人会不会这么干」。三条条款分别和质量、规范、评审有关。

解答

Strive for Quality:Sarah 坚持做完测试。支持的理论是德性伦理(追求职业卓越)加义务论(提供可靠产品的义务)。

Respect Rules:遵守行业规范。安全测试和发布流程本身就是从业者的义务,义务论要求遵守,与能不能抢到市场无关。

Accept Review:欢迎同行批评。支持的理论是德性伦理(谦逊与职业成长)加义务论(确保代码安全的义务)。

和 Alex 案比,理论组合换成了德性伦理加义务论,因为争议变成了「一个专业的人会不会这么干」。

例 3(课件 p.32):Marcus 要不要把数据中心全部换成可再生能源

题面:Marcus 是一家全球云服务商的 CTO,要决定是否把耗电巨大的数据中心全部换成 100% 可再生能源。这笔开销很大,会拉低季度利润,但能显著降低公司的碳足迹。请列出适用的条款、判断和支持的理论。

提示

这是唯一的领导层视角,条款都来自第 3 板块。想一想哪些德性的名字会出现。

解答

Public Good First:选可再生能源,因为稳定的气候惠及所有人。支持的理论是功利主义,「最大的善」及于全球人口。

Social Responsibility:正视公司的环境影响。支持的理论是德性伦理,体现智慧与正直。

Manage Resources:为后代管好环境资源。支持的理论是功利主义加德性伦理,体现勇气,把长期可持续放在短期利益之上。

这是四个场景里唯一的领导层视角。没有明确规则可依、越依赖决策者品格的场景,德性伦理越吃得开。

例 4(课件 p.33):Elena 发现多年的导师在客户软件里植入后门

题面:Elena 是资深开发。她发现一位同事故意在客户软件里植入后门,绕过安全机制做私人监控。这位同事是她多年的朋友和导师,她犹豫要不要举报。请判断该怎么做,说出所属板块和支持的理论。

提示

先认出阻力是哪个冒牌货。再想一想这条义务是对用户、对雇主,还是对整个职业共同体。

解答

Uphold the Code:Elena 决定举报。依据是义务论,遵守道德规则的义务不可协商,与私人关系无关。

Address Violations:通过行动维护职业共同体的完整性。依据是义务论,并援引社会契约论:专业人士必须指出违规,才能维持社会给这个行业的共享信任。

这一页属于第 4 板块,是唯一一条「行业对自己」的义务。对朋友的忠诚是真实的感受,但它不是职业判断的依据。

例 5(课件 p.35):为什么数据科学和 AI 特别需要这部 Code

题面:课件把 Code 落到数据科学上,点出了几个具体的 Section 编号。请说出它们各管什么,以及「数据是公开的」那句话。

提示

按「训练数据 → 大数据采集 → 黑箱部署」三块来想,每块对上一条编号。

解答

训练数据:不公平的训练数据导致不公平的预测模型。Section 1.2(Avoid Harm)直接针对偏见与数据滥用;Section 1.4 要求必须公平、采取行动不去歧视。

大数据采集:常导致用户监控与隐私侵蚀。数据是「公开」的,不等于不经同意抓取或使用它合乎伦理。

黑箱算法:在医疗、信贷、刑事司法、自动驾驶这类高风险领域部署很危险,Section 2.5 要求对系统影响与可能风险做全面评估。

完整例题

课件 p.30 原题:Alex 是一家医疗公司的软件工程师。他发现患者数据系统有个 bug,可能泄露上千用户的病历。经理要他保持沉默,等三个月后的下次例行更新再修,以免负面新闻。请列出适用的条款,给出判断,并说明每条由哪套理论支持。

① 找出受影响的对象:上千名患者的病历,以及公司对外的诚信。经理的理由是避免负面新闻,这是一种权威压力,不能当伦理依据。

② 第一条 Avoid Harm:Alex 必须立即上报。义务论说保护他人是绝对义务;功利主义说及时修补能避免真实伤害,长期结果最好。

③ 第二条 Be Honest:Alex 不得隐瞒漏洞。义务论说诚实是道德义务;功利主义说透明能带来最好的长期结果。

④ 第三条 Respect Privacy:患者数据必须受保护。义务论说保密是患者的权利;功利主义说保护隐私能最大化社会信任与福祉。

⑤ 收结论:三条的论证结构完全一样,义务论给出绝对义务,功利主义给出最好的长期结果。两套框架收敛于同一结论,所以 Alex 应该立即上报,不等三个月。这个模板可以原样搬到别的场景题。

变式题(先自己做)

改编自课件 p.30:你在一家银行做数据分析实习。你发现信用评分看板有个计算错误,部分客户的分数被算低,可能影响他们的贷款审批。组长说季度汇报快到了,先别声张,下个版本再改。请列出适用的 Section 编号和判断,并说明两套理论能否在这里收敛。

提示

先看伤害落在谁身上、是不是正在发生。然后照 Alex 案的模板,对每条条款各写一句义务论和一句功利主义。

判分点与答案(非官方评分标准)

判分点:① 每条判断挂 Section 编号;② 两套理论都要写到;③ 对策要是可执行的升级路径。

1.2 Avoid Harm:被算低的客户可能被错拒贷款,伤害正在发生。义务论说有保护的义务,功利主义说及时修正能避免真实损失。

1.3 Honesty:知道错误而不说,是隐瞒。义务论说诚实是义务,功利主义说透明带来更好的长期信任。

1.4 Be Fair:如果错误集中在某类客户身上,还涉及不公平对待,需要先查清楚分布。

结论:两套理论收敛于同一结论。应该书面记录问题,向组长之上或负责风险的部门报告,并建议暂停用这个看板做审批,不等下个版本。

闪卡自测

1. 默写那句关于 Code 定位的否定式表述。

The Code is not an algorithm for solving ethical problems; instead, it helps in making ethical choices。面对具体问题往往需要同时考虑好几条原则,不同情境下分量不同(p.28)。

2. ACM Code 的两个定位分别是什么?

一是表达行业的良知,启发并指导从业者;二是在违规发生时充当补救的依据(p.27)。

3. 看到 Section 3.1,能立刻判断它属于哪个板块吗?依据是什么?

能。编号首位数字就是板块号,3 是 Professional Leadership Principles,管对组织与公众的领导责任(p.29)。

4. Code 提供 how 还是 what?伦理框架呢?

伦理框架提供思考的 how,职业准则提供特定共同体的 what。准则还设定集体标准,让你不必独自面对道德困境(p.34)。

5. 黑箱算法的四个高风险领域是哪四个?对应哪条 Section?

医疗、信贷、刑事司法、自动驾驶。Section 2.5 要求对系统影响与可能风险做全面评估(p.35)。

6. 四个场景各用了哪套理论组合?

Alex:Utilitarianism + Deontology;Sarah:Virtue Ethics + Deontology;Marcus:Utilitarianism + Virtue Ethics;Elena:Deontology + 社会契约论(p.30–33)。

下一讲

四个场景练完,L01b-2 给出一套通用的案例分析四步法,再用课件最长的 Maya 案把它完整走一遍。

下一讲 →
L01b-2 L01b-2 案例分析四步法:用 Maya 案走完 Consider、Analyze、Review、Evaluate

个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。