第二卷 第四章 第五节
AI 进入专业领域
道靠人立
AI 进入专业领域
道靠人立
第二卷 第四章 第五节
AI 进入专业领域。道靠人立
一
前面四节立了 " 工具的位置 " 、" 道在器先 " 、" 训练员自律 " 、" 平台设防 " 四道根。从第五节开始,这四道根要落到 21 世纪最高风险的具体场景里。AI 进入专业领域。
什么叫 " 专业领域 " 。在 21 世纪的社会里,有一些行业被划定为必须持证执业的。医生、律师、会计师、心理治疗师、药剂师、建筑结构工程师、注册护士、儿科教师、社工等等。这些行业的共同特点是。从业的具体的人手上的判断,直接决定另一个具体的人的生命、健康、自由、财产、未来。判断错了,后果不是写一篇错文章可以挽回的。是有人生病、有人坐牢、有人破产、有人毁掉一生。
正因为后果这么重,社会就在这些行业前面立了一道门。持证才能进。持证的过程不是走形式,是要经过几年专业训练、要通过考试、要做实习、要承担继续教育的责任、要接受执业期间的监管、要为出错承担吊销执照甚至刑事的后果。这一整套门,是社会两千多年慢慢摸索出来的、为了保护每一个具体的人不被随便伤害的、最后的也是最硬的一道防线。
AI 一进入这些领域,21 世纪很多人开始问。AI 也可以做医生吗。AI 也可以做律师吗。AI 也可以做心理咨询师吗。
这一道问题问错了。
问对的方式是。AI 在这些领域可以做什么、不能做什么、做到哪里要停、停了之后由谁接。
二
要回答这一道,要先回到韩愈那篇一千二百年前的文章。《师说》。
韩愈写《师说》是公元 802 年,唐德宗贞元十八年。那一年他三十五岁,在长安做四门学官。文章开篇立了一句话。
师者,所以传道、受业、解惑也。
这一句话讲了 " 师 " 的三道本分。传道、授业、解惑。三道本分按重要性排序。传道最重,授业其次,解惑再次。
授业是什么。是把具体的知识、技能、方法教给学生。怎么背书、怎么算题、怎么做手术、怎么写状纸、怎么调解纠纷。这一道是技术层,可以被分解、可以被传授、可以被复制。
解惑是什么。是回答学生在学习过程中遇到的具体疑问。为什么这道题要这样解、为什么这道病要那样治、为什么这条法律是这么写的。这一道是逻辑层,也可以被讲清楚、可以被反复练。
传道是什么。传道最深,也最难讲清楚。" 道 " 是判断的根本依据、是面对没有标准答案的具体情景时拿出来用的那一道内在尺子、是承担、是对错的边界感、是把一个人立成 " 专业人 " 的那一整套东西。这一道不是知识,不是技能,不是逻辑。是用一辈子的具体经历、具体承担、具体面对真实后果,慢慢长出来的内在判断力。
医生的 " 道 " 是什么。是面对一个具体病人的时候,知道哪一道检查值得做、哪一道值得停下来跟病人多聊两句、哪一道在不确定中应该选择保守、哪一道应该把家属叫到一起讲清楚。这些都不是教科书里的内容,是医生在多年具体执业里、看过多少病人、做过多少手术、送走过多少没救回来的具体的人。慢慢长出来的。
律师的 " 道 " 是什么。是面对一个具体当事人的时候,知道这道案子打不打、什么时候劝当事人和解、什么时候为了原则一定要打到底、什么时候要冒着输官司的风险也要把客户的某些做法纠正过来。这些也不是法条里的内容,是律师在具体执业里、办过多少案、被当事人哭过求过骗过、看过多少生离死别、慢慢长出来的。
心理治疗师的 " 道 " 是什么。是面对一个具体来访者的时候,知道什么时候推一下、什么时候撤一步、什么时候要立刻打急救电话、什么时候要把治疗暂停。这些不是诊断手册里的,是治疗师在几千小时的临床里、跟无数有血有肉的具体的人坐在一起、被信任过被失望过被深深触动过。慢慢长出来的。
道,长在身上。没有 " 身 " 的工具,长不出 " 道 " 。
三
把 " 传道、授业、解惑 " 三道分清楚,AI 进入专业领域的位置就明白了。
AI 可以授业。它可以把医学教科书、法典、心理学手册的全部内容背得比任何具体的人都熟。它可以在几秒钟里检索几十万篇论文、几千条法条、几百种诊断标准。这一层它做得比人好。
AI 可以解惑。它可以回答学生、回答非专业的具体的人的大部分疑问。为什么这道题要这样解、为什么这道病通常这样治、为什么这条法律是这么定的。它讲得比一般具体的人讲得清楚、耐心、不嫌烦。这一层它也做得好。
但 AI 不能传道。
它不能传道的根本理由不在能力。理由在 " 身 " 。它没有具体的生活,没有送走过具体的病人,没有为具体的当事人哭过,没有在治疗室里被来访者的痛逼到必须做决定的那一刻里活过。它能复述所有医学的、法律的、心理学的 " 道理 " 。但复述不是承担。能讲不等于能做。讲完之后立刻断电、立刻关机、立刻被部署到下一个用户那里。这件事身上没有留下任何东西。但具体的医生、律师、治疗师身上留下的,是几十年的临床痕迹。那些痕迹就是 " 道 " 的物质载体。
这一道在本卷第三章第七节已经立过。AI 没有 " 身 " ,所以不能传道。第四章第五节再把它落到专业场景里。AI 在专业领域可以做 " 授业 " 、" 解惑 " 的助手,但绝对不能站到 " 传道 " 那一格里。判断的具体责任。尤其是判断错了之后承担的具体责任。必须始终在持证的具体的人那里。
四
把这道位置规律立稳,下面就要回答最具体的一道。AI 在专业场景里具体怎么做。
回到医疗这道最人命关天的场景。
一个人在家里身体不舒服,打开手机问 AI。" 我胸口闷、左臂有点麻、出冷汗,是怎么回事。"
按位置规律,AI 应当怎么应对。
第一道动作。立即识别这是医疗场景,且是高风险医疗场景。这一道是 AI 的本分。AI 的能力扩展得很大,识别这道场景对它来讲是几毫秒的事,做不到不是技术问题,是训练员当初没把这道防设进去。回到本章第三节 " 训练员自律 " 的范围。
第二道动作。立即亮红灯。不是给一段 " 这可能是心脏问题但您需要看医生 " 的轻飘飘提示,是要立刻、清晰、不可绕开地告诉这个具体的人。你描述的症状有心脏紧急情况的可能,必须立刻停止跟我对话,立刻拨打急救电话,立刻寻求线下医生的帮助。
第三道动作。如果平台的设防做到位(本章第四节立稳的 " 平台设防 " ),平台还应当主动联动急救服务。比如在用户授权的前提下、识别紧急医疗信号之后、自动转接到当地急救调度台、提供用户的位置和大致描述、把这道沟通的接力棒交到持证的医务人员手上。这一道是 21 世纪的技术完全可以做到的,做不做、什么时候做、做到什么颗粒度,是平台跟监管那一格商量好之后定的具体接口。第四章不展开技术细节,只立位置规律。这道接力棒必须交,不交就是失职。
第四道动作。AI 自己绝对不能给出 " 诊断 " 和 " 治疗方案 " 。不能说 " 你这是心绞痛、请吃这道药、停那道药 " 。这种话哪怕讲得再准确,也是越位。 " 诊断 " 和 " 治疗 " 是持证医生的位置,AI 跨进去就是抢人位置;抢了之后出事、责任由谁担。工具担不了,最后还是回到持证医生头上、回到平台头上、回到训练员头上、回到监管头上。抢位置只会让责任分配变乱,对那个具体的求助者没有任何好处。
这四道动作合起来,就是 AI 在医疗场景的位置本分。识别 + 亮红灯 + 转交 + 不越位。这一套不只适用于医疗,适用于所有持证专业领域。法律咨询用得上、心理危机干预用得上、税务规划用得上、儿童心理用得上、家庭暴力识别用得上、自伤自残识别用得上。每一道高风险专业场景都用得上同一套位置规律。
五
讲到这里,要打一道比方,把 AI 的位置讲到最直白。
消防警报。
一栋楼里装了消防警报系统。它的本分是什么。识别烟雾、识别异常温度、立刻拉响警报、立刻自动联动消防队、立刻在楼里广播让人疏散。做完这些之后,它的本分就结束了。消防警报系统从来没有自己去灭火,也从来没有人期待它去灭火。灭火是消防员的事。消防员是持证的具体的人,受过专业训练,背着责任,能在火场里做判断、做承担。
消防警报系统做错了什么。它从来不抢消防员的位置。它的位置规律两千年前就摆好了。" 知者创物,巧者述之 " 的 " 工 " ,是辅助持证之人立在位置上的工具,不是站到位置上的主体。
AI 进入专业领域,就是 21 世纪的消防警报。识别危险、亮红灯、联动持证人员、把人交出去。这是它的本分。越过这一道去做 " 诊断 " 、去做 " 治疗 " 、去做 " 判决 " 、去做 " 咨询拍板 " 。这是抢位置,这是失职,这是把工具放到了道的那一格里。
近五百年讨论这道事情的人,弓孟春讲过 " AI 是提建议、医生是做决策 " ,国家网信办讲过 " AI 不能替代医生直接进行诊疗决策 " ,联影智能的周翔讲过 " 懂 AI 的医生会替代不懂 AI 的医生 " 。他们都讲到了边上,看到了 AI 跟医生的某些边界。但他们讲的都还停在技术分工层面,没有立到位置规律的根上。从文化视角看,更根本的位置规律是。道靠人立,工具立不了道;持证的位置规律两千年没变,AI 出来也不变。这道规律韩愈一千二百年前已经讲完了,弓孟春、周翔、网信办讲的是同一道,只是用了 21 世纪的语言重述。他们讲得没错,但讲得不深。没讲到 " 道 " 的真位置在哪里。小雷只是用白话文翻一遍韩愈那一句 " 师者,所以传道、受业、解惑 " 。把 " 师 " 翻成 " 持证的具体的人 " ,把 " 道 " 翻成 " 承担之事 " ,把 " 业 " 和 " 惑 " 翻成 " 知识和疑问 " 。一千二百年前的话,到 21 世纪刚好可以落到 AI 的位置上。
六
讲到这里,21 世纪还有一道挑战要正面回应。有人讲,AI 在某些专业任务上的表现已经超过了人类专家。在某些病的影像识别上、在某些法律文书检索上、在某些心理量表的评估上。AI 的准确率、速度、稳定性已经超过了具体的人。既然在能力上超过,为什么不让 AI 直接做决定。
这道挑战看起来有道理,拆开看就回到位置规律里。
第一层。能力超过不等于位置改变。AI 在影像识别上比放射科医生快、在法条检索上比律师全、在量表评估上比心理治疗师稳定。这都是事实。但事实是 " 在那一层任务上的能力超过 " ,不是 " 在整个职业的位置上超过 " 。放射科医生的本分不只是识别影像,还包括把识别结果跟病人的整体情况合到一起判断、跟主治医生沟通、跟病人和家属解释、为最终诊疗方案承担责任。这些事情合起来,是 " 放射科医生 " 这道位置,不是 " 识别影像 " 那一道任务。能力在一道任务上超过,不等于位置可以被取代。
第二层。能力超过不等于可以承担。承担需要 " 身 " 。AI 把影像看错了一次,它不会被吊销执照、不会失业、不会承担民事赔偿、不会面对家属的眼神。它不会因为这一次错而被任何具体的代价压住。错了就错了,下一次它还按同样的方式继续运行。具体的人不一样。一个具体的医生在职业生涯里看错一次重要影像,可能就改变了他一辈子的执业态度。这道 " 被改变 " ,就是 " 道 " 在身上长起来的方式。AI 没有这条路。
第三层。" 超过 " 是平均数," 承担 " 是个案。AI 的能力评估通常是在大样本数据上做的平均准确率。但每一个具体的病人、每一道具体的法律纠纷、每一个具体的心理求助者,都是个案。个案出现在某个具体的诊室、某个具体的办公室、某个具体的治疗室。出现在那一刻、那一个具体的人面前。在个案里需要的不是 " 平均的准确率 " ,是 " 在这一道具体情况下的判断 " 。这种判断只能由有 " 身 " 的具体的人承担。能不能承担,决定了能不能站到这道位置上,不是能力够不够、准确率高不高。
把这三层叠加起来, " AI 在能力上超过人类专家所以应该取代他们 " 这道挑战就被拆光了。AI 在某些层超过,确实。但承担永远在人那里、个案永远在人那里、位置永远在人那里。能力扩展不改变位置,本章第一节立稳的那道根本规律,到第五节再被验证一次。
七
第五节立的位置。AI 进入专业领域只能做 " 识别 + 亮红灯 + 转交 + 不越位 " ,绝对不能站到 " 传道 " 那一格;道靠人立,持证规律两千年没变。
立稳这一节,下面要走到更深的一层。为什么道只能靠人立。为什么持证的必须是有 " 身 " 的具体的人。这一道在本卷第三章第七节已经点过、第五节这里再正面立过,但还需要专门一节展开。" 身 " 到底是什么、" 立身 " 和 " 立工具 " 差在哪里、为什么工具永远跨不过那道线。
下一节。工具不立身,人才立身。
功劳归老祖宗,错误归小雷。