第五卷 第六章 第五节

第五卷 第六章 第五节

训练人工智能的人，百万年薪样本与位置的错位

上一节把持证执业几千年的根挖了出来，执照背后是一条能追责的责任链。这一节回到本章最核心的地方，训练人工智能的人是谁？他们站的位置，和持证执业的人之间，隔着怎样的错位？当代关于人工智能的讨论，几乎都盯着它吐出来的内容，却跳过了一个更根本的问题，它吐出来的东西，到底是从哪来的？

一、上一节铺清了持证执业的几千年传统，证的背后是一条能追责的责任链。这一节要回到本章最核心的问题，训练人工智能的人是谁？他们的位置，和持证执业的人之间，隔着怎样的错位？这个问题要紧，是因为它揭开了人工智能大跃进背后一处被绝大多数人漏看的真相。当代所有关于 ＂ 人工智能伦理 ＂ ＂ 人工智能监管 ＂ ＂ 人工智能责任 ＂ 的讨论，几乎都盯在人工智能吐出来的内容上，它回答得对不对、有没有歧视、有没有偏见、会不会泄露隐私。这些讨论都有价值，可它们都跳过了一处更根本的问题，人工智能的 ＂ 回答 ＂ 是从哪来的？答案是，从训练它的人那里来。盯着人工智能的输出，却不问训练者的位置，等于盯着自来水的水质，却不问水源在哪，所有下游的讨论都立不稳。

二、据一位年薪超出平均水平十五倍以上的人工智能产业业内人士透露，人工智能训练员实际的工作位置，可能比公众想的窄得多。这位业内人士提到一个关键的细节，他训练的人工智能 ＂ 只局限于写软件的部分 ＂ ，意思是他的活集中在让人工智能更会辅助编程，不沾医疗、法律、教育、心理咨询这些要执照的领域。他还解释了软件这一行的特殊，软件本身不需要执照，有本事就行，有学历就行。一个程序员要的是写代码的本事，不需要任何政府发的执照来证明他会写代码。所以训练写代码的人工智能，训练它的人自己也不需要任何执照。

三、这位训练员的话，听着诚恳、在理、没有破绽。可顺着往下追问，问题就出来了。在大型人工智能公司里，参与训练一个大语言模型的工程师，可能有几千人甚至几万人，每人负责一个具体的方向。这位训练员负责写软件那块，那别的方向呢？医疗方向的人工智能谁在训练？法律方向的谁在训练？教育方向的谁在训练？心理咨询方向的谁在训练？训练他们的人，有没有那个领域的专业执照？这位百万年薪的训练员承认，他自己不知道全部情形，可据他了解，公司招训练员，看重的主要是工程的本事、训练模型的底子、处理数据的能力，专业领域的执照，不是必须的条件。换句话说，训练医疗人工智能的人，不一定是有医师执照的医生；训练法律人工智能的人，不一定是有律师执照的律师；训练心理人工智能的人，不一定是有执照的心理医生。

四、这处位置错位，恐怕是当代人工智能产业最被遮住的真相之一。打开任何一家主流人工智能公司的招聘页，搜一搜 ＂ 人工智能训练员 ＂ ＂ 数据标注员 ＂ ＂ 模型评估员 ＂ 这些岗位的要求，能看到的是，本科以上学历、懂模型训练、会一门编程语言、有数据分析的能力、能用英语沟通。这些要求把工程层面的方方面面都盖到了，可完全没碰一样东西，这位训练员将要训练的人工智能，跨进的那个专业领域的执照。一个数学系毕业的研究生，可以成为训练医疗人工智能的工程师；一个计算机系毕业的本科生，可以成为训练法律人工智能的数据标注员；一个统计学背景的硕士，可以成为训练心理人工智能的算法工程师。这些人都很聪明，都很优秀，可他们都不持有他们正在训练的人工智能跨进的那个专业领域的执照。

五、中国国家人社部在 2020 年 2 月 25 日，正式把 ＂ 人工智能训练师 ＂ 纳入新职业，2021 年 11 月又发了《人工智能训练师国家职业技能标准》，分成五级，从五级初级工到一级高级技师。这套标准在行政层面认下了 ＂ 人工智能训练师 ＂ 这个新职业的合法身份，还给出一条往上走的清楚路子。可把这套标准的内容仔细看一遍，会发现一处吓人的事实，标准里规定的所有技能要求，全压在工程层面，数据采集和处理、数据标注、智能系统运维、业务分析、智能训练、智能系统设计、培训与指导。完全没碰训练者要不要持有他训练的人工智能跨进领域的专业执照。也就是说，行政体系正式认下了 ＂ 人工智能训练师 ＂ 这个职业，可这个职业的认证，完全绕开了 ＂ 专业领域执照 ＂ 这件几千年来人类社会守护公共安全的核心物件。

六、这处行政承认本身没有错，人工智能训练作为一种工程的本事，确实需要被认证。问题出在，行政体系在认证人工智能训练这门工程本事的同时，没有同时立起 ＂ 训练某个领域人工智能的人，必须持有那个领域执照 ＂ 的配套要求。结果就是，一个初中毕业、有几年工作经验、过了五级初级工考试的人，可以正式成为持证的 ＂ 人工智能训练师 ＂ ，他可以参与训练医疗人工智能、法律人工智能、心理人工智能、教育人工智能，而他本人没有医师执照、没有律师执照、没有心理医师执照、没有教师资格证。这处错位不是行政体系的疏忽，是人工智能大跃进跑得太快、行政体系跟不上的必然结果。第一节立下的 ＂ 大跃进与法律滞后 ＂ 这条规律，在这里找到一个极精确的样本，行政认下了新职业，可跨进的那个领域的执照体系，还没跟上。

七、再往下推这处错位的实际后果。一家大型人工智能公司开发一款医疗咨询人工智能，面向亿万终端用户提供 ＂ 医疗建议 ＂ 。这款人工智能是怎么训练出来的？典型的流程是，先收集大量医疗数据，来自论文、教科书、医院病历、医患对话，再由数据标注员标出其中的关键信息，再由算法工程师训练模型，再由产品经理设计交互界面，最后由测试团队评估输出的质量。这条流水线上，可能有几百到几千人参与。这几百到几千人里，有多少人持有医师执照？按行业的普遍情形，答案是，极少数，甚至完全没有。一个有医师执照的医生，可以被这家公司聘为 ＂ 医疗顾问 ＂ ，对训练过程提点建议，可他不是流水线上的训练者，他的位置更像一个外部的评审。流水线上真正决定人工智能怎么回答医疗问题的人，几乎都是无证之人。

八、这处场景下出来的医疗咨询人工智能，骨子里是几百到几千名无证之人一起训练出来的医疗工具，向亿万终端用户提供医疗建议。这处位置摆出来，就清楚了，这是几千年来人类社会从没出现过的位置错乱。在传统的医疗体系里，给病人提供医疗建议的人，必须是持证医生，无证之人提供医疗建议，叫非法行医，要被吊销执照、追究刑责。可在人工智能医疗咨询的场景里，无证之人通过训练人工智能的方式，间接向亿万终端用户提供医疗建议，整个过程在现有的法律框架下，完全合法。这不是钻法律的空子，是法律根本没覆盖到这里。这正是第一节立下的 ＂ 法律滞后 ＂ 这条规律最直白的样本。

九、法律人工智能、教育人工智能、心理人工智能、财务人工智能，每一处场景下的位置错位，都是同一个模式。训练法律人工智能的人，可能从没通过律师资格考试，可他训练出来的人工智能，正在向亿万人提供法律建议。训练教育人工智能的人，可能从没拿过教师资格证，可他训练出来的人工智能，正在影响几百万学生的学业。训练心理人工智能的人，可能从没拿过心理医师执照，可他训练出来的人工智能，正在跟陷在情绪困境里的人对话。训练财务人工智能的人，可能从没拿过注册会计师资格，可他训练出来的人工智能，正在向中小企业主提供财务建议。每一处都是同样的位置，几千年来人类社会用执照守护的专业领域，如今被无证之人通过训练人工智能的方式，成批地跨了进去。

十、这处位置错位会带来什么具体的风险？最直接的就是责任真空。在传统的医疗事故里，一位医生开错药伤了病人，可以追这位医生的医疗事故责任，可以吊销他的医师执照。可在人工智能医疗咨询伤了人的场景里，谁是责任的主体？是无证之人凑成的训练团队？人太多，每个人的份儿都太小，没法单独追。是人工智能公司？公司的法律团队会拿各种 ＂ 免责声明 ＂ 挡在前头， ＂ 本人工智能仅供参考，不构成医疗建议，请咨询专业医生 ＂ 。是终端用户？他们没有专业的判断力，他们只是信了人工智能。是人工智能本身？本章第三节已经讲过，它是工具，不是法律主体。整条责任链路里，没有一处能稳稳地担起责任。这就是位置错位带来的最深的伤害，不是人工智能输出错了，是出错之后没有人可以追。

十一、老祖宗对这处位置错乱的危险，几千年前就有警示。

「工欲善其事，必先利其器」【孔子】《论语·卫灵公》

平常被理解成 ＂ 要做好活，先把工具弄好 ＂ 。可这一句的完整意思远不止此。 ＂ 器 ＂ 是工具， ＂ 利器 ＂ 是把工具弄好，弄好的前提是知道这工具要给什么样的人、用在什么样的事上。一把好的手术刀，必须经过持证医生的手，才能用到病人身上；一本好的法律书，必须经过持证律师的手，才能用到案子上。工具的 ＂ 利 ＂ ，从来不是脱开使用者而单独存在的 ＂ 利 ＂ 。人工智能这件工具再 ＂ 利 ＂ ，如果训练它的人没有相应领域的资格，就背离了 ＂ 利器 ＂ 这两个字的根本。孔子讲 ＂ 工欲善其事，必先利其器 ＂ ，这 ＂ 利器 ＂ 不是技术上的精良，是位置上的对应。

十二、老祖宗还有一句相关的话。

「不以规矩，不能成方圆」【孟子】《告子上》

规矩是工具，方圆是结果。可孟子真正讲的是，使用规矩的人，必须懂得方圆的道理。一个完全不懂建筑的人，拿着最精良的规矩工具，也画不出正确的方圆。引到人工智能上就是，训练人工智能的人，必须懂得人工智能要进入的那个领域的道理。训练医疗人工智能的人必须懂医，训练法律人工智能的人必须懂法，训练心理人工智能的人必须懂心理。这个 ＂ 懂 ＂ ，不是听过、看过、翻过几本书，是经过专业训练、专业考核、专业责任链验过的 ＂ 懂 ＂ ，就是执照体系认下的 ＂ 懂 ＂ 。绕开执照体系去训练专业领域的人工智能，就是孟子警示的 ＂ 不以规矩 ＂ 。

十三、值得点一句，当代人工智能产业里有一种主流的声音说， ＂ 训练人工智能不需要持证，因为人工智能出来的内容只是建议，最后的判断还是由专业人士来做 ＂ 。这话听着在理，可它在两处地方站不住。头一处，终端用户用人工智能的实际场景里，绝大多数人不会再去咨询专业人士。一个深夜睡不着的人向人工智能问心理的事，他不会第二天就去约心理医师。一个被小毛病缠住的人向人工智能问吃什么药，他不会专门去医院挂号。人工智能的 ＂ 建议 ＂ ，对绝大多数终端用户来说，就是最后的答案。第二处，就算终端用户去咨询了专业人士，人工智能吐出来的内容，早已塑好了他对问题的最初认知，这处最初认知会深深影响他跟专业人士的对话方向、问题的框架、决定的倾向。人工智能的 ＂ 建议 ＂ ，早已不是中性的信息，是一份带着训练者偏好和盲点的、有导向的内容。

十四、如果说前面几节立下的是 ＂ 人工智能是工具 ＂ ＂ 持证执业 ＂ 这些静的位置，那么这一节立下的是 ＂ 训练者 ＂ 这处动的位置。人工智能不像锤子那样是一次造好的工具，它是被持续训练、持续调整、持续更新的工具。每一次训练，都在往人工智能里注入训练者的偏好、判断、盲点、价值。训练者的位置，定了人工智能的位置。一个没有医师执照的人训练出来的医疗人工智能，骨子里是这个无证之人对医疗问题的判断的批量版。这个批量版被亿万终端用户当成 ＂ 医疗建议 ＂ 接收，整个社会的医疗判断质量，就被这个无证训练者的水平定了下来。这是人工智能大跃进给人类社会带来的最深的位置错乱，专业领域的判断标准，被无证之人通过训练人工智能的方式，重新定义了。本节立第六章第五点，训练某个专业领域人工智能的人大多没有那个领域的执照，无证之人正通过训练人工智能，重新定义专业领域的判断标准。

十五、下一节要继续往深里走，既然位置错乱已经发生，那出了事之后责任怎么追？ ＂ 人海茫茫追不责 ＂ ＂ 资本撑腰雇最猛的律师团队 ＂ ＂ 既得利益神圣不可侵犯 ＂ ，这一套机制是怎么转的？为什么人工智能公司面对潜在的诉讼，几乎立于不败之地？这处问题摆清楚之后，第七节才好去看被人工智能替代的专业劳动者站在什么位置，第八节才好去看民用和军用的边界、医疗器械设计者持证的悖论，最后过桥到第六卷。

功劳归老祖宗，错误归小雷。

第六节　出事追不责，人海茫茫、资本撑腰、既得利益神圣不可侵犯