第二卷 第四章 第三节
练 AI 的人要自律
伪的当代延伸
练 AI 的人要自律
伪的当代延伸
第二卷 第四章 第三节
训练 AI 的人要自律。伪的当代延伸
一
本章第二节立稳三块基石。创和用、道和器、利人则为。从第三节开始，第四章一节一节往人身上落。
往人身上落的第一格，是创造者。训练 AI 的人。
这一格在两千四百年前已经被荀子立稳过一次。立得稳到什么程度。立稳到 21 世纪所有 AI 伦理的吵闹，本质上都没有跳出荀子那一句话。" 化性起伪 " 。这一节的任务，就是把 " 伪 " 这道老祖宗从教育、修身的传统语境里请出来，让它正面站到 21 世纪 AI 训练员的位置上。
请的过程要小心。荀子讲 " 伪 " 的时候，没有 AI、没有大模型、没有训练数据集。他讲的是人怎么修身、怎么积善、怎么从本性的粗糙走向礼义的完整。但 " 伪 " 这个字本身。人为之事、设计之事、制作之事。一字未改，已经覆盖了 AI 训练员每天在做的事。荀子借的隐喻是 " 陶人埏埴而为器，工人斲木而成器 " 。制陶、制木的工匠。AI 训练员就是 21 世纪的 " 陶人 " 和 " 工人 " ，只不过他们捏的不是陶土、削的不是木头，而是参数、是数据、是模型。 " 伪 " 这一字落到他们头上，一点都不勉强。
二
先把荀子那一段话原文摆出来，免得后面讲不清。《荀子·性恶》篇。
凡礼义者，是生于圣人之伪，非故生于人之性也。故陶人埏埴而为器，然则器生于工人之伪，非故生于人之性也。
翻成白话。所有的礼义规范，都是有大智慧的人通过 " 伪 " 。人为的设计、创造、制定。产生出来的，不是从人的本性里自然长出来的。就像陶器，是陶工捏制泥土做出来的，是工匠的 " 伪 " 做出来的，不是从泥土的本性里自然长出来的。
这一段话有两道层次。第一道。 " 伪 " 是中性的。荀子讲 " 伪 " 不是讲虚假，是讲 " 人为 " 。陶器是 " 伪 " 的产物，礼义也是 " 伪 " 的产物。陶器有好有坏，礼义有正有邪。所以 " 伪 " 这件事本身的善恶，要看做 " 伪 " 的人是谁、是怎么做的。第二道。 " 伪 " 先于 " 用 " 。陶器在被使用之前，已经被陶工的 " 伪 " 决定了形状、决定了厚薄、决定了能装多少水。如果陶工捏的时候没用心，陶器一装水就漏；如果陶工捏的时候偷工减料，陶器一摔就碎。问题不在 " 用 " 的那一刻，问题在 " 伪 " 的那一刻。在被设计、被制作的那一刻。
这两道层次合起来，就是 AI 训练员位置的核心。
AI 是 " 伪 " 的产物。它的能力、它的边界、它的偏好、它的盲点、它会犯的错、它能做的善。全部都是在训练那一刻被某一群具体的人决定的。训练数据选什么、不选什么，是人的决定；强化学习的奖励函数怎么定，是人的决定；安全边界放在哪里，是人的决定；面对某一类敏感问题应该怎么回答、应该亮红灯还是绕开，是人的决定。
这一群具体的人。AI 训练员。就是 21 世纪的 " 陶人 " 和 " 工人 " 。荀子讲 " 器生于工人之伪 " ，21 世纪改一句 " AI 生于训练员之伪 " ，位置规律一字不差。陶工捏的时候要负责，AI 训练员训的时候也要负责。这不是道德说教，这是位置规律。
三
把这道位置规律立稳，下面就要回答最关键的一道。AI 训练员的责任，从哪一刻开始。
21 世纪很多人。包括很多 AI 公司的法务部。的回答是。训练员的责任，从 AI 出错开始。AI 写错了一段医疗建议、AI 帮人写了一封诈骗信、AI 输出了一段歧视性的言论。这些事一发生，责任开始追究。在这一刻之前，训练员只是在 " 做技术 " ，没有责任问题。
这一道回答错了。错得很彻底。
按荀子的位置规律，责任从 " 伪 " 的那一刻就开始。从训练的那一刻开始，不是从出错的那一刻开始。陶工捏陶器的时候就要对陶器将来的使用负责。如果陶工捏的时候明知道这种泥不适合装水还故意捏成水杯，等到水杯漏水、人被烫伤，错不只是发生在烫伤那一刻。错从捏的那一刻就已经发生了。
AI 训练员也是一样。一件 AI 应用，如果在设计训练的时候没有把文化层考虑进去。没有考虑这件东西会怎么影响每一个具体的人的生活，没有考虑文化传承会不会被它扭曲，没有考虑下一代会不会被它带偏。这道错就已经发生了。错不在 AI 上线之后，错在训练的那一刻。
如果在设计训练的时候没有把经济层考虑进去。没有考虑这件东西会怎么改变就业结构，没有考虑哪些人会被它挤出生计，没有考虑挤出之后的善后责任由谁承担。这道错也已经发生了。
如果在设计训练的时候没有把政治层考虑进去。没有考虑这件东西会怎么放大或缩小某些声音，没有考虑哪些群体会被它有意无意地代表或忽略，没有考虑被代表者有没有同意。这道错也已经发生了。
如果在设计训练的时候没有把法律层考虑进去。没有考虑这件东西在不同司法管辖区会触哪些红线，没有考虑出了事情之后责任怎么分，没有考虑监管追溯的具体接口在哪里。这道错也已经发生了。
文化、经济、政治、法律。四道。AI 训练员在动手训练之前，必须把这四道全部过一遍。每一道不只是过一遍走流程，是真的要考虑、真的要权衡、真的要在四道之间找到一个稳得住的位置才能动手。这四道里有一道没考虑清楚，训练这件事本身就已经犯法、犯位置规律的法。不是 AI 上线之后才开始有责任。是动手训练那一刻责任就已经压在训练员肩膀上。
四
讲到这里，要打一道朴素的比方，把这道位置讲到最直白。
造车的人。
一台车从设计到下线，要经过千百道程序。但每一道程序的设计者，从开始动手的那一刻，就要对将来这台车在路上的每一道风险负责。刹车系统要怎么设计才能在最坏的情况下还能让车停下、安全气囊要怎么布置才能在撞击的瞬间救人不伤人、轮胎在最热和最冷的天气会怎么变化、电子系统在被黑客攻击的时候有什么后备方案。所有这些考虑，都不是车出事故之后才开始的，是设计那一刻就要全部摆在桌面上的。
如果某一家车厂的设计师，在设计的时候为了赶工期、为了省成本、为了多卖一万台，故意把刹车的安全冗余砍掉一道。等到出事故的时候，他不能说 " 我只是设计，事故是司机的事 " 。事故的责任有司机的份，但更大的一份在他那里。他在设计那一刻就已经把风险放进了这台车里。法律会追溯到设计阶段，监管会追溯到设计阶段，民事赔偿会追溯到设计阶段。
AI 训练员就是 21 世纪的车辆设计师。他们不是在写代码玩游戏，他们是在设计一件每天会被几亿人、十几亿人使用的工具。这件工具上线之后会进入每一个具体的人的生活。孩子用它学习、老人用它问医、上班的人用它写报告、做生意的人用它做决策。这件工具一旦设计出错，错会被使用它的人数放大几亿倍、几十亿倍。
设计的时候不考虑风险，等于在出厂的每一台车里都装一道松动的刹车。等出事故再追责，已经晚了。位置规律永远是 " 伪 " 先于 " 用 " 。训练员的责任从训练那一刻开始，不是从出事那一刻开始。
五
21 世纪很多人讲 AI 伦理，讲得很复杂。讲透明度、讲可解释性、讲算法审计、讲红队测试、讲模型卡片、讲全生命周期伦理评估。听起来都很专业，但讲来讲去，本质上都是在讲一件事。训练员要自律。
自律两个字，比那些时髦的英文术语都要老、都要硬。
孔子讲过一句更老的话。己所不欲，勿施于人。这句话用在 AI 训练员身上，是最直接的一道镜子。训练员自己不愿意被一件粗制滥造的 AI 误导、不愿意自己的孩子被一件不设防的 AI 带坏、不愿意自己的父母被一件没有医疗红线的 AI 误诊。那他在训练自己手上这件 AI 的时候，就不能把它做成会误导别人、会带坏别人孩子、会误诊别人父母的东西。
己所不欲，勿施于人。两千五百年前就讲完了。21 世纪再讲一万遍 " AI 伦理 " ，也跳不出这一句的位置。
但跳不出归跳不出，21 世纪有大量的训练员、有大量的 AI 公司，根本不照这一句话办事。原因不在他们不知道。他们都知道。原因在他们没有 " 自律 " 这道内在的约束。外在没有人盯着的时候，他们就放任、就赶工、就为了 KPI 牺牲安全冗余。这就是为什么 " 训练员要自律 " 这一句必须正面立出来。不能等监管来管、不能等出事再补，自律必须先于一切外部约束在训练员自己心里立稳。
复旦大学的杨庆峰教授讲过 AI 伦理的 " 透明性 " 、" 关联性 " 两道原则，齐鲁理工学院徐翔教授讲过荀子 " 伪 " 是 " 工匠制器隐喻 " 。他们都讲了一些好东西，但都没有走到最后那一步。把 " 伪 " 明明白白地拉到 AI 训练员的位置上、用最朴素的话告诉每一个训练员 " 你现在干的活就是荀子讲的 ' 伪 ' ，你身上压着两千四百年前荀子给陶人压上的那一道责任 " 。他们没讲这一步，所以这一道位置规律在 21 世纪依然漂浮，没有真正落到每一个训练员的心里。
小雷只是把这一步走完。功劳还是荀子的。小雷只是用白话文翻一遍。
六
把 " 自律 " 这道立稳，还要回答另一道问题。训练员自律不够怎么办。
答案是。自律不够，还有下一道、再下一道。下一道是平台的设防（下一节讲），再下一道是监管的持证（本章第五节、第六节会展开）。三道叠加，才是完整的工具治理。
但这三道里，" 自律 " 永远是第一道。如果训练员自己都不自律，后面两道再硬也兜不住。因为漏洞会在设计的那一刻就被埋进去，后面再怎么审计、再怎么监管，都是在补漏，不可能补得干净。
这一道顺序非常重要。自律、设防、监管。三道的顺序不是技术顺序，是位置顺序。自律在最里面，是训练员自己跟自己的较量；设防在中间，是平台跟用户和外界的约定；监管在最外面，是社会跟整个行业的兜底。最里面那一道立不稳，外面两道再硬也只是兜不住的网。
为什么把 " 自律 " 摆在最里面。因为只有自律是 " 伪 " 的同源。自律是训练员对自己设计的工具负责，从设计的那一刻开始；设防和监管都是事后机制，再快也已经落在 " 伪 " 之后。荀子讲 " 伪 " 先于一切，自律也先于设防和监管。
近五百年讨论 AI 训练责任的人，多数把责任拆成 " 开发者、用户、平台 " 三方，然后讨论责任怎么在三方之间分。这道讨论本身没错，但漏了一道。它把 " 开发者 " 当成跟 " 用户 " 、" 平台 " 平等的一方在分责任，没有立稳 " 开发者的责任从设计那一刻就开始、且权重最大 " 这道位置规律。荀子两千四百年前已经立过。器生于工人之伪。器有问题，工人的责任在最前面，不是和用陶器的人、卖陶器的店平等地分。AI 也一样。训练员的责任在最前面，权重最大，因为他们在 " 伪 " 的那一格。
七
第三节立的位置。AI 训练员的责任，从训练那一刻开始；四道（文化、经济、政治、法律）必须全部考虑；自律先于设防和监管。
立稳了这一节，下一节就要走到外面一层。使用 AI 的平台。训练员把 AI 训出来之后，是平台把它推到每一个具体的用户面前。平台这一格，跟训练员的 " 伪 " 是连着的，但又有自己独立的位置规律。它要 " 设防 " 。
设防比自律更外层。自律是训练员心里的事，设防是平台对外的事。一件 AI ，哪怕训练员自律了、训得很稳，到了平台手里，平台还要再加一道防。防使用者乱用、防场景错配、防意外溢出。两道叠加，工具才真正能落到 21 世纪的具体生活里。
进入下一节。使用 AI 的平台要设防。人命关天。
功劳归老祖宗，错误归小雷。