L10b 辅导、编辑部与数据去向:AI 能帮忙,签字和保密还在人手里
从零讲清课件机会部分的后半段:用 AI 润色英文为什么可以但要披露,把模型当副导师的条件,LAMBDA 教学数据智能体的四格流程,编辑部用 AI 查稿的三个条件,以及粘贴进去的内容去了哪里、个人账号和机构部署差在哪。
一句话版
AI 可以替你改英文、陪你练答辩、帮编辑部筛稿,但签字的始终是人,而且你粘贴进去的每一样东西都可能被它留下。
上一页 L10a 讲了生成式 AI 是什么,以及文献检索和数据分析两个机会;这一页接着讲剩下的用法和数据的去向。
先认识这几个词
| 词 | 全称 / 读法 | 一句人话 |
|---|---|---|
| 生成式 AI | Generative AI,课件缩写 GAI | 用日常语言下指令、当场写出文字或代码的软件 |
| 人在环 | human-in-the-loop | 每个关键决定都要经过人,人点头才算数 |
| 智能体 | agent | 能自己执行一步任务的模型程序,比如写代码或查代码 |
| 提示词 | prompt | 你输入给模型的那段话 |
| 披露 | disclosure | 在论文里写明用了什么工具、做了什么 |
| 论文工厂 | paper mill | 批量代写、卖论文的生意 |
| 机构部署 | institutional deployment | 学校或单位统一采购、签了合同的 AI 环境 |
| 数据处理协议 | data-processing agreement | 规定服务商怎样处理你数据的合同 |
一个类比:从外面请来的临时助理
研究组请了一位能力很强的临时助理。他英文好,能把你的草稿改得通顺;他耐心好,同一个方法可以给你讲三遍;他眼尖,能帮期刊编辑先翻一遍投稿。
但有两件事他做不了。第一,他不在论文上签字,出了错不由他负责。第二,他是外人,你给他看的东西,他可能会带走。
所以要想清楚:哪些活交给他,哪些决定自己拍板,哪些材料不能给他看。要让他碰机密,先签保密合同,这就是机构部署。
类比在哪里失效:
- 真人助理可以被质问、被辞退;模型不行,课件因此说它当不了真正的导师。
- 真人助理带走的只是记忆;工具怎样处理你的内容,要看产品、套餐和设置,得自己去读条款。
- 签了保密合同也不等于万事大吉,课件说仍要规则、培训和审查。
从零讲起
1. 语言辅导:同一项研究,两种读法
它解决什么问题
很多研究者的母语不是英文,研究扎实,英文却磕磕绊绊,审稿人就容易在语言上扣分。
直觉
课件讲了一位博士生。她的研究本身是可靠的,但初稿英文写得犹豫,审稿人的红笔都落在了句子上,没有落在证据上。
有了编辑上的帮助,同样的数据、同样的论断,以清晰的学术英语送到同一位审稿人手里。审稿人终于开始读证据了。
课件的原则是:扣分应该落在科学上,不该落在作者的母语上。这正是机会清单里的第三条,让非英语母语的作者站在公平的起点上。
一步一步看
目标:比较润色前后审稿人注意力落在哪里,看出语言辅导为什么可以接受、又为什么要披露。
-
润色前:数据和论断已经写好,英文不流畅。审稿人花力气在句子上,证据没有被认真评判。
-
润色后:数据和论断一个字没改,只换了表达。审稿人的评判回到了证据上。
-
问一句:变的是什么?只有语言。研究的内容没有被模型改写,所以课件判定可以接受。
-
再问一句:最后进论文的文字是谁写的?有一部分出自工具。所以课件加了条件:要披露。
怎么判断
判断口诀:先看模型动的是语言还是内容,再看它产出的文字有没有进论文。
| 情况 | 判断 |
|---|---|
| 只改语言,数据和论断不变 | 可以接受,要披露 |
| 借润色之名改了论断或补了证据 | 已经越过语言辅导,按生成内容处理 |
| 只用拼写和语法提示 | 后面讲披露的 L10d 会说到,这类不用申报 |
前提是研究还是作者自己的;披露让读者知道哪些文字经过工具之手。
常见误解
误解:用 AI 改英文是作弊
课件的结论正好相反:可以接受。它保护的是非英语母语作者,让评判回到科学本身。条件是要披露。
误解:只是改了语言,就不用披露
课件写的是可以接受、但要披露。工具改写过的文字进了论文,读者有权知道。
试一下
一位研究生让模型把讨论部分改得更流畅,模型顺手加了一句原文没有的结论。这还算语言辅导吗?
答案
不算了。语言辅导的前提是同样的数据、同样的论断;新加的结论改变了内容,要删掉或者自己核实后重写,并照样披露工具的使用。
2. 把模型当副导师:严格的人在环
它解决什么问题
导师时间有限,模型永远有空。能不能把它当成第二位导师?
直觉
课件先承认这个说法的吸引力:模型像一位不知疲倦的读者,永远愿意再解释一次方法。
接着指出问题:副导师是有权威的,模型没有。一位不会出错、不能被质疑、不能被辞退的导师,算不上导师。
所以条件是严格的人在环:对论证、证据和伦理签字认可的是学生,不是工具。
课件随后给了一个具体场景。学生请模型把一个方法用三种方式讲一遍,给自己的论断找一个反方论证,再排练答辩时可能被问的问题。
课件认为这是正当的教学支持,替代不了导师指导。附带三条限制:导师仍然负责;学生必须能为每一句话辩护;机密数据不进提示词。
一步一步看
目标:把一次「请模型陪练答辩」的使用,逐条对照课件的条件,看哪一步需要人来把关。
-
列出学生让模型做的三件事,判断各自的性质。
请模型做 性质 一个方法讲三种说法 帮自己理解,属于教学支持 给自己的论断找反方论证 帮自己检验论证,属于教学支持 排练答辩问题 帮自己准备,属于教学支持 -
对照人在环:论证、证据和伦理由谁签字?由学生签。模型给的反方论证只是素材,接不接受由学生决定。
-
对照三条限制,逐条打勾。
限制 要问的 导师仍然负责 导师知道并仍在指导吗 学生能为每一句辩护 去掉模型,学生能讲清吗 机密数据不进提示词 粘贴的内容里有没有未公开数据 -
结论:三件事都可以做,三条限制都满足时,这是正当的辅导;任何一条不满足,就越界了。
怎么判断
判断口诀:模型可以陪练,不能拍板;拍板的人要能被问住、被追责。
先看最终决定是谁做的,再看三条限制有没有破。
常见误解
误解:模型比导师更有耐心,所以可以替代导师
课件说副导师有权威,模型没有。它不会被质疑、不会被辞退,也就不能承担导师的责任。它只能做教学支持。
误解:只要用的是辅导功能,粘贴什么都可以
三条限制里明确写着机密数据不进提示词。辅导用途不改变数据保护的规矩。
试一下
一位学生答辩前请模型帮忙准备,但答辩时被问到模型写的一段解释,他答不上来。他违反了哪条限制?
答案
违反了「学生必须能为每一句话辩护」。模型可以帮他准备,但讲出口的每一句都得是他自己能解释的。
3. LAMBDA:为教学造的数据智能体
它解决什么问题
个人用模型时,过程看不见,没人能核对答案怎么来的。课件拿学校自己的平台 LAMBDA 当例子,说明教学工具可以把过程摆到明处。
从哪来(补充)
LAMBDA 项目的官方介绍页说明了它要解决的问题:很多学生,尤其是人文和社会科学背景的学生,被复杂的编程语法挡在数据科学门外;老师在大班课上难以给每个人个别指导;商业工具常常像黑箱,看不到学习过程,数据隐私和可定制性也让人担心。
介绍页称它是基于大模型的数据智能体,由数据科学及人工智能学系和应用数学系的讲座教授黄健(HUANG Jian)领导。出处:A Large Model Based Data Agent for Data Science and Artificial Intelligence Education, PolyU IHERD(核对日期 2026-11-20)。
直觉
LAMBDA 是 PolyU 高等教育研究及发展中心(IHERD)的一个开源、免代码的多智能体平台,由黄健教授领导。
学生不用写代码,用日常语言说想做什么。平台里有两个分工的智能体:一个写代码,一个检查代码。数据预处理、画图和模型评估都在对话里完成。
老师还能通过一个知识整合机制,把最新的研究和外部算法放进这个环境。
一步一步看
目标:跟着一次提问走完四格,看出每一格都留在平台里,老师能看到答案是怎么产出的。
-
学生用日常语言提出需求,比如「把这份数据清洗一下,画出两组的分布」。
-
Programmer 智能体把需求写成能运行的代码。
-
Inspector 智能体检查这段代码,发现问题就改进它。
-
数据被清洗、画图、评估,结果交回学生。四格的记录都留在平台里。
怎么判断
课件给了它对诚信有意义的三个理由,可以拿来检查任何一个教学用 AI 工具:
| 要问的 | LAMBDA 的情况 |
|---|---|
| 流程看得见吗 | 看得见,每一格都有记录 |
| 环境由谁管理 | 由机构管理 |
| 老师能看到答案怎么来的吗 | 能 |
同样让模型写代码,过程可见、机构管理的平台更容易被检查。
常见误解
误解:有 Inspector 智能体检查过,结果就一定对
课件只说 Inspector 检查并改进代码。它的意义在于流程可见、老师能看到过程;核对结果仍然是人的事,这和 L10a 讲的「核查是你的工作」一致。
试一下
LAMBDA 和学生在个人聊天账号里让模型写分析代码,按课件给的三个理由比,差在哪?
答案
个人账号里的过程老师看不到,环境不由机构管理,答案怎么来的也无从查起。LAMBDA 三条都满足:流程可见、机构管理、老师能看到过程。
4. 编辑部的质量控制
它解决什么问题
研究者能用 AI,期刊编辑也能用。课件的第四个机会是:编辑把同一类工具对准投进来的稿件,帮忙找问题。
直觉
课件分两页列了编辑能查的东西。第一页是四类看得见的问题:图像被篡改或重复使用;数据不一致或根本不可能;文本重合与剽窃;统计异常。
第二页换了一种分法:数据完整性,比如重复的图板、不可能的统计量、对不上的样本量;报告质量,即论文是否符合它自称遵守的清单;造假信号,比如扭曲短语和其他论文工厂的指纹;同行评审前的初筛。
但这件事有条件。投稿是机密的,作者没同意公开。课件说:要告知作者,由人类编辑决定,并且在获准处理机密稿件的基础设施上运行。正在审的稿件,永远不要粘贴进公共工具。
一步一步看
目标:把一家期刊准备用 AI 初筛投稿的做法,逐条对照三个条件,看缺了哪一条就不能接受。
-
先确认要查的东西落在课件列的范围里,比如统计异常或图像重复。
-
条件一:作者事先知道稿件会被工具筛查吗?投稿须知里写了,才算告知。
-
条件二:工具标出问题后,由谁决定退稿或送审?必须是人类编辑。
-
条件三:工具跑在哪里?要在获准处理机密稿件的基础设施上,不能是公共工具。
-
结论:三条都满足才可以接受;缺任何一条,同样的筛查就不合规。
怎么判断
判断口诀:查什么可以放宽,怎么查三条不能少:告知、人决定、机密设施。
| 做法 | 判断 |
|---|---|
| 编辑把在审稿件粘贴进公共聊天工具查统计 | 不可以,违反第三条和那句「永远不要」 |
| 工具自动给稿件打分并直接退稿 | 不可以,决定权要在人类编辑手里 |
| 告知作者、机构内的系统初筛、编辑看结果再决定 | 可以 |
工具只是帮手,判断和保密都由人负责。
常见误解
误解:编辑部用 AI 查稿就是用 AI 审稿
课件写的是同行评审前的初筛,在人类审稿人读稿之前做第一轮筛查。决定由人类编辑做,审稿仍由人来。
误解:查剽窃是为了公共利益,所以用什么工具都行
稿件是机密的。课件要求在获准处理机密稿件的基础设施上运行,正在审的稿件永远不粘贴进公共工具。
试一下
一位审稿人觉得手上稿件的数据太完美,想用个人账号的聊天机器人查一下。按课件,他该怎么做?
答案
不能把稿件粘贴进公共工具。他应该把疑点报告给编辑,由编辑部在获准处理机密稿件的系统上筛查,再由人类编辑决定。
5. 数据去哪了:饥饿的工具和封闭的房间
它解决什么问题
前面反复提到「机密数据不进提示词」。这一节回答为什么,以及怎样才能放心地用。
直觉
课件的标题是:工具是饥饿的。你粘贴的一切都成了材料,比如一个没发表的想法、一份病人记录、一篇你在审的稿件、一个有授权限制的数据集。
条款因产品、套餐和设置而不同。课件的措辞很小心:消费级账号可能默认用你的内容改进模型;托管的商业版和 API 工作区则声明它们不这样做。
版权是另一个问题。生成的文字可能复现受保护的材料,你也可能并不拥有产出的内容。
课件的规则只有一句:不能公开发表的东西别粘贴;粘贴任何东西之前,先读数据设置。
下一页课件比较了两种用法:个人账号和机构部署。机构部署更贵,买的是一间数据不外流的房间。
一步一步看
目标:拿一份含未发表数据的初稿,先过粘贴规则,再比较两种账号,看机构部署到底多给了哪四样保障。
-
问第一句:这份初稿能公开发表吗?里面有未发表的数据,现在不能。按规则,不粘贴进个人账号。
-
问第二句:手上的工具数据设置怎么写?先读设置,再决定能不能用、用在哪一部分。
-
逐行对比两种账号。
比较 个人账号 机构部署 训练 默认可能用你的提示词改进模型 合同里写明默认不训练 留存 没有机构层面的留存控制 留存期限由你方配置 记录 没有谁问了什么的审计记录 单点登录、角色和审计日志 保障 你是唯一的防线 加密和数据处理协议 -
结论:机构部署把保障写进了合同和系统;但课件提醒,房间里仍然需要规则、培训和审查。
怎么判断
判断口诀:先问能不能公开,再读数据设置,最后看是谁的房间。
机构部署能降低风险,替代不了规则和培训。
常见误解
误解:消费级账号一定会拿我的内容训练模型
课件写的是可能(may),还说条款因产品、套餐和设置而不同。正因为不确定,规则才要求粘贴前先读数据设置。
误解:用了机构部署就什么都能放心粘贴
课件说机构部署买的是数据留在里面的房间,房间里仍然需要规则、培训和审查。
试一下
一位研究者想把一个有授权限制的数据集贴进个人账号,让模型帮忙描述统计。按课件的规则,第一步该问什么?
答案
先问这份数据能不能公开发表。有授权限制的数据集不能随意公开,按规则就不该粘贴;即使要用工具,也要先读数据设置。
把它们串起来
五个概念回答同一个问题:AI 帮忙时,哪些事必须留在人手里。
语言辅导留给人的是内容,还要披露。副导师式用法留给人的是签字,三条限制一条不能破。LAMBDA 把过程摆出来给老师看。编辑部把决定留给人类编辑,机密稿件只进获准的设施。
最后一节解释为什么机密数据不进提示词:粘贴进去的都成了材料;机构部署买来一间封闭的房间,房间里的规矩仍要人来定。
下一页会转向风险:同样的流畅,也让捏造变得又快又便宜。
课件里的坑
- [编号重复] p.9 和 p.10 都标 OPPORTUNITY 3(The Language Tutor / The Model as co-supervisor),p.11 LAMBDA、p.12 A tutor that never tires 没有编号。p.4 列的四个机会里,第三条是非英语母语作者的公平起点,没有「副导师」这一条。答题时四个机会按 p.4 列,导师式用法当作第三个机会下的延伸来讲
- [措辞是 may] p.15 写的是消费级账号 may use your content to improve models by default、你 may not own what comes out,都是「可能」,别写成「一定」;托管商业版和 API 工作区那句是 state that they do not,即厂商「声明」不训练。p.16 个人账号一栏同样是 Defaults may let your prompts improve the model
- [出处只有网址] p.11 只在页脚印了 polyu.edu.hk/iherd/aiducation/dasi_huang-jian,没有展开;项目背景见上文「从哪来(补充)」
课后 10 分钟:考点复习
这 10 分钟怎么用:合上页面,先默写副导师的条件和 tutor 的三条限制;再写出编辑部的三个条件和个人账号对机构部署的四行;最后做下面的课件例题和变式题。
必背
- 语言辅导:同一项研究,英文犹豫时审稿人的红笔落在句子上,润色后评判回到证据上;结论是可以接受,但要披露
- 把模型当副导师的条件是严格的人在环:论证、证据和伦理由学生签字认可,工具不签;不会出错、不能被质疑、不能被辞退的导师不算导师
- 不知疲倦的 tutor(一个方法讲三种说法、给自己的论断找反方论证、排练答辩问题)是正当的教学支持,替代不了导师指导;三条限制:导师仍然负责、学生能为每一句辩护、机密数据不进提示词
- LAMBDA 是 PolyU IHERD 的开源、免代码多智能体平台:学生用日常语言提问 → Programmer 智能体写代码 → Inspector 智能体检查改进 → 数据被清洗、画图、评估;对诚信有意义是因为流程可见、环境由机构管理、老师看得到答案怎么来的
- 编辑部质量控制查图像篡改或重复、数据不一致或不可能、文本重合与剽窃、统计异常,也管数据完整性、报告质量、造假信号和同行评审前的初筛;可以接受的三个条件是告知作者、由人类编辑决定、在获准处理机密稿件的基础设施上运行
- 工具是饥饿的:粘贴进去的都成了材料;条款因产品、套餐和设置而异,消费级账号可能默认拿内容改进模型;版权另算,你可能不拥有产出;规则是不能公开发表的别粘贴,粘贴任何东西之前先读数据设置
- 个人账号对机构部署:默认可能用于训练对合同写明默认不训练,没有留存控制对可配置留存期限,没有审计记录对单点登录、角色和审计日志,你是唯一防线对加密和数据处理协议;更贵,买的是数据留在里面的房间,房间里仍要规则、培训和审查
课件例题
例 1(课件 p.9):语言辅导
题面:一位博士生的研究扎实,但初稿英文写得犹豫,审稿人的红笔落在句子上而不是证据上。她借助编辑支持,把同样的数据和论断改写成清晰的学术英语再投。这种用法可以接受吗?有什么条件?
提示
想想润色改变了什么、没改变什么,再想想进论文的文字出自谁手。
解答
可以接受,但要披露(ACCEPTABLE, WITH DISCLOSURE)。数据和论断没变,只改了语言;扣分应该落在科学上,不该落在作者的母语上。工具改写过的文字进了论文,所以要披露。
例 2(课件 p.12):不知疲倦的 tutor
见下方完整例题。
例 3(课件 p.14):编辑部用 AI 筛稿
题面:期刊编辑部想用 AI 工具检查投稿的数据完整性、报告质量、造假信号,并在人类审稿人读稿前做初筛。课件认为什么条件下可以接受?有什么绝对不能做?
提示
三个条件分别关于作者、决定权和基础设施。
解答
要事先告知作者、由人类编辑做决定、在获准处理机密稿件的基础设施上运行,三条都满足才可以接受。绝对不能把正在审的稿件粘贴进公共工具。
完整例题
题目(课件 p.12):一位学生请模型把一个方法用三种方式解释,给自己的论断找一个反方论证,并排练答辩问题。这种用法算什么?要满足哪些限制?如果他在准备时把合作单位还没公开的数据贴进了提示词,问题出在哪?
① 定性。三件事都是帮学生理解、检验和准备。课件认为这是正当的教学支持,替代不了导师指导。
② 套人在环。模型给的三种讲法和反方论证只是素材;论证、证据和伦理仍由学生签字认可。
③ 对照三条限制。导师仍然负责,要知道并继续指导;学生必须能为每一句话辩护,模型帮他准备的回答,他得自己讲得清;机密数据不进提示词。
④ 找出违规点。合作单位未公开的数据是机密数据,违反第三条,也违反 p.15 的规则:不能公开发表的别粘贴。
⑤ 结论。陪练可以;粘贴未公开数据越界了,应只用可以公开的材料练习。
变式题(先自己做)
变式 1(改编自课件 p.14、p.15):一位受邀审稿人用自己的消费级聊天账号,把手上在审的稿件全文贴进去,请模型找统计异常,然后根据模型的结论写了拒稿意见。指出至少三个问题。
提示
从稿件的机密性、工具的数据设置、谁做决定三方面找。
判分点与答案(非官方评分标准)
机密:在审的稿件永远不要粘贴进公共工具;稿件不能公开发表,按 p.15 规则也不该粘贴。
数据设置:消费级账号可能默认用内容改进模型,他没有先读数据设置。
决定权:拒稿意见直接依据模型结论,课件要求由人来决定;作者也没有被告知稿件会被工具筛查。
正确做法:把疑点报给编辑,由编辑部在获准处理机密稿件的设施上筛查,再由人判断。
判分点:答出机密稿件不进公共工具;答出数据设置或 may 的不确定性;答出决定必须由人做。
变式 2(自编情境):一所大学在比较两个方案:让学生各自用个人账号的 AI,或者统一采购机构部署。财务处说机构部署太贵。请按课件列出机构部署多给的四样东西,并说明买了之后还缺什么。
提示
对照个人账号的四个短板,再看课件黑框最后一句。
判分点与答案(非官方评分标准)
四样东西:合同写明默认不训练;留存期限可以自己配置;单点登录、角色和审计日志;加密和数据处理协议。
买的是什么:一间数据留在里面的房间。
还缺什么:房间里仍需要规则、培训和审查。
判分点:四点答全,且一一对应个人账号的短板;指出机构部署替代不了规则和培训。
闪卡自测
1. 用 AI 润色英文,课件的结论是什么?
可以接受,但要披露(p.9)。
2. 语言辅导背后的原则是什么?
扣分应该落在科学上,不该落在作者的母语上(p.9)。
3. 为什么模型当不了真正的副导师?
副导师有权威,模型没有;不会出错、不能被质疑、不能被辞退的导师不算导师(p.10)。
4. 把模型当副导师的条件是什么?
严格的人在环:论证、证据和伦理由学生签字认可,不是工具(p.10)。
5. 不知疲倦的 tutor 有哪三条限制?
导师仍然负责;学生必须能为每一句辩护;机密数据不进提示词(p.12)。
6. LAMBDA 的四格流程是什么?
学生用日常语言提问 → Programmer 智能体写代码 → Inspector 智能体检查改进 → 数据被清洗、画图、评估(p.11)。
7. LAMBDA 为什么对诚信有意义?
流程可见、环境由机构管理、老师能看到答案怎么产出(p.11)。
8. 编辑部用 AI 筛稿可以接受的三个条件?
告知作者、由人类编辑决定、在获准处理机密稿件的基础设施上运行(p.14)。
9. 课件对「工具是饥饿的」给的规则是什么?
不能公开发表的别粘贴;粘贴任何东西前先读数据设置(p.15)。
10. 消费级账号一定会用你的内容训练模型吗?
课件写的是可能(may),条款因产品、套餐和设置而异(p.15)。
11. 机构部署比个人账号多哪四样?
合同写明默认不训练、可配置留存期限、单点登录角色和审计日志、加密和数据处理协议(p.16)。
下一讲
下一页 L10c 讲生成式 AI 出错的四类风险,一篇论文怎样在大约 15 分钟里被写出来,以及 AI 为什么不能署名。回到 课程目录 可以按讲次复习。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。