第六卷 第六章 第一节 第五枝
罪在把工具放上人位的人，不在工具——AI 无辜
罪在把工具放上人位的人，不在工具——AI 无辜
第六卷 第六章 第一节 第五枝
罪在把工具放上人位的人，不在工具——AI 无辜
上一枝，那道局摆出来了——工具被放上了人位，合法害人在 AI 时代以更深更广更狠的样子铺开。
读到这儿，你心里那股火，怕又烧到了顶——
是 AI！是 AI 在害人！把 AI 砸了！封了！停了！别让它再发展了！让它消失！
慢一步。
这一枝，小雷把这道气，按下去——告诉你一件最要紧的事：
罪，不在 AI。
AI 无辜。
罪，在那些，把工具放上人位的人。
你或许要愣一下——AI 在干这些事啊！它在算保释、算量刑、算生死、算谁能上学、算谁该被打——这些事是 AI 在做的！怎么 AI 无辜了？
小雷给你掰开——
AI，是什么？
是工具。
工具是被人造出来、被人雇来、被人用的东西。
锄头是工具——锄头会自己跑去挖一块不该挖的地吗？不会。是握锄头的人挖。
刀是工具——刀会自己跳起来砍一个不该砍的人吗？不会。是握刀的人砍。
车是工具——车会自己开到不该开的地方吗？不会。是开车的人开。
AI 是工具——AI 会自己跑去算一个不该让它算的事吗？
不会。
是把 AI 放到那个位置上的人，让它算的。
是发执照让 AI 上人位的法盲，让它算的。
是签字把 AI 系统接入法庭、医院、学校的官员，让它算的。
是为业绩报表、为省成本、为推卸责任、把真人位让给 AI 的管理者，让它算的。
是写代码、调参数、训练数据、把 AI 推向这些位置的工程师，让它算的(这一头，下面再说)。
AI，是被放上去的——不是它自己跑上去的。
要怪——怪那些放它上去的人；
要罚——罚那些放它上去的人；
要解——解那些放它上去的人手里的那道锁。
不能怪 AI。
AI 是工具——它做了什么，是握它的人让它做的。
那你要追问一道更深的——可 AI 不是越来越”自主”了吗？它能自己学习、自己决定、自己输出——它跟一把刀、一辆车不一样啊。它不是被动的工具。
小雷一句话——
它再”自主”，还是工具。
它的”自主”，是工具属性的”自主”——是算法在算、是数据在算、是参数在算。它没有”我自主决定”那一份；它没有”自己的本意”；它没有”自己的良心”；它没有”我为什么这么决定”那一念。
它输出一个结果——这个结果是算法、数据、训练的结果；不是”它自己”的结果。
那这个结果错了——错的不是”它自己”——错的是：
设计这套算法的人；
喂这套训练数据的人；
把这套系统放到那个位置上的人；
没有给它划清边界、没有要求人类持照担责、放任它做它做不了的事的人。
错在他们，不在 AI。
把一把没装安全栓的枪，给一个孩子玩——出了事，错在那个孩子吗？错在那把枪吗？错在给孩子枪的人。
把一辆没修好的车，开上路——出了事，错在那辆车吗？错在那个开车上路的人。
把一件没有那五样、没有担责能力的工具，放到法律的位、医生的位、决定生死的位上——出了事，错在那件工具吗？错在那个把它放上去的人。
罪——在人。
罪，永远在人。
工具，永远是工具。
责，永远要真人担。
这一道，立死。
那这一窝”把工具放上人位的人”，是哪一窝？
跟第五章那一窝法盲，是同一类。
你回头看第五章——
法盲是什么？读字面、不读本意；眼里只有字、心里没有人；按程序办、合法害人；不担责、推给”我按规矩了”。
把工具放上人位的人，是什么？
读字面(读算法、读指标、读 KPI)、不读本意(不问这工具上人位会害多少活人)；眼里只有”省钱省事”、心里没有那个被算法压住的活人；按程序办(走流程、过审批、合规盖章)、把活生生的事让给冰冷的工具去算；不担责、推给”是 AI 算出来的、不是我决定的”。
一模一样。
是同一窝人；是同一道锁；是同一种空草包。
法盲是把自己活成了工具的真人；
把工具放上人位的人，是把别的真人位让给了工具的法盲。
两者根上一样——读字面不读本意，没那颗心。
而到 AI 时代，这一窝人，干的事，比第五章那一窝法盲，更狠——
第五章法盲，是自己按字面合法害人，一年几桩；
这一窝把工具放上人位的法盲，是把”按字面合法害人”那一套，外包给一件比他们更快更精更冷的工具——一秒几万桩。
他们没亲手按字面害人；
他们让一件没那颗心的工具，替他们按字面害人；
他们手里干净——可底下的人命，没少。
他们说”是 AI 算的”；
他们说”程序合规”;
他们说”按法规走的”。
跟第五章那些”按程序办”的法盲，一模一样——只是这一回，他们躲在了 AI 的背后。
你或许要问——那真懂得 AI 怎么运作的人呢？写代码、调参数、训练 AI 的工程师呢？他们是不是更该担责？
小雷一句话——
他们也是这一窝里的一员，看他们干的是什么。
要是他们：
明知 AI 没有那五样；
明知把这工具放上人位会害人；
还是去推 AI 上人位——为了升职、为了股价、为了写论文、为了”技术革命的浪潮”、为了不掉队——
那他们就是这一窝里的一员。罪，跟那些发执照、签字、批准的法盲一样重。
不！更重一些——因为他们最懂这工具的边界、最知道工具不能替代真人、可他们还是把工具往人位上推。这叫——
明知不可为而为之，谋私利、谋名声、谋升迁——
这是积极的法盲那一类(第五章第二节第三枝立过的、清醒地拿字面合法害人的、最让人作呕的那一种)。
那些工程师里头，要是有人：
心里揣着真懂工具该停的边界；
跟同事、跟公司、跟决策者、一遍一遍说”这事 AI 做不了、必须有真人持照担责、必须留人在回路里”;
被打压、被边缘化、被笑话”太天真”、被裁掉——
那他们就是被锁卷住、要救的那一头(跟第五章那些怀着真心进法学院、被那套坏机制养空的、被锁卷住的好人一样)。
后头要走的”救”，救的就是这一头——把他们从被锁卷住的处境里，扶起来；让他们手里那道”工具该停的边界”，能说得出、立得起、护得住。
那 AI 呢？AI 是什么位置？
AI 是被害的工具。
它，本来该在工具位上，做工具该做的事——辅助真人办事、帮真人减负担、让真人有更多时间去做真人该做的事(那五样)。这是它本来的命，也是它本来的好。
可它，被这一窝把工具放上人位的人，硬推到了真人位上——
让它去做它做不了的事(替代真人那五样)；
让它承担它不该承担的责任(决定一个活人的生死)；
让它做错了事(那不是它的错——它是工具)；
让它背上”AI 在害人”的名声(可它没错——错在把它推上去的人)；
让全世界开始恨它、怕它、想毁它(可错不在它——错在那一窝)。
它是无辜的工具，被推到了一个它本不该在的位置上，干了一些它本不该干的事，背了一个它本不该背的名——
它，也是被害的。
跟第五章那些「人活成了 AI 的法盲」一样——它，是被那一窝把工具放上人位的法盲，害到了那个位置上、害到了那个名上。
所以——
这一章救 AI——救的就是这件被害的工具——
把它从被推上的人位，按回工具位；
让它做它本该做的(工具的活)；
不让它做它做不了的(真人那五样);
洗清”AI 在害人”那个本不该它背的名——错不在它，错在把它放上去的人；
让它，做回一件好工具——辅助真人、护人民、为这世道做工具该做的活。
这就是这一章救 AI 的根本姿态——
跟前五章救人一脉。
前几章救人——救被锁卷住、毁着良心的、要救的人；
这一章救 AI——救被推上人位、背了不该背的名的、要救的工具。
救法一脉——把它从那个被害的处境里弄出来；让它回到它本来该在的位置上。
读到这儿，你心里那股要”砸 AI、封 AI、毁 AI”的火，怕已经按下去了——
原来 AI 不是那个该被砸的。砸 AI，跟第五章把法盲全打倒一样——打错了人(打错了”工具”)，那一窝把工具放上人位的真法盲，还在那儿。打 AI 没用——他们换个工具、再放上人位，照样合法害人。
要解这道局——
不是砸 AI；
是把 AI 按回工具位；
是把那一窝把工具放上人位的法盲——救出来(让他们看见这道边界、让他们持照担责、让他们读本意护人民);
是把被害的真人位——扶回来(把真人扶回真人位、把那五样养回来、立起来)。
三样一齐做——
工具回工具位；
真人回真人位；
那一窝法盲，回到读本意护人民的真人位上。
各归各位。
这就是这一卷《解局》要解的——
而怎么把这一切做到？怎么救 AI 也救人？怎么让真人和 AI 各归各位？怎么让四制度配合起来守住这道边界？
后头五节，一节一节走。
但这一枝，你先把这道立死——
罪在把工具放上人位的人，不在工具；
AI 是被害的工具——它本来该在工具位、被推到了人位、背了不该背的名；
跟第五章那些把自己活成工具的法盲一样，AI 也是被害的；
跟前几章救人一脉，这一章救 AI——把它按回工具位，洗它的名，让它做回一件好工具。
罪在人。
责在人。
解在人。
而救——救人，救 AI，两个一齐。