第七卷 第二章 第一节
罪在人，不在工具：AI 无辜
上一章立明了本卷要解的局：把工具放上了人位。读到那道合法害人以工具之速铺开，心里那股火，怕要烧向工具本身，只想把它砸了、禁了、毁了。本节把这股火按下去，立明一件最要紧的事：罪，不在工具，在把工具放上人位的人。工具无辜，工具也是被害的。这一立，关乎全卷是走向 “救人” 还是 “砸物” 的根本分野。
一、火要按下：罪不在工具
读完上一章那道局，一股火几乎按不住：是它在评定保释，是它在推算生死，是它在裁断入学，是它在识别目标。这些害人的事，都是它做的，如何说它无辜？
且慢。这股火，要按下去。工具是什么？是被人造出来、被人用的东西。一柄锄，会自己跑去挖不该挖的地么？不会，是握锄的人去挖。一辆车，会自己开到不该去的地方么？不会，是驾车的人去开。人工智能是工具，它去评定、去推算、去裁断，不是它自己要去，是把它放到那个位置上的人，让它去的。是发照准它上位的人，是签字将它接入法庭医院学校的人，是为省成本、图省事、推责任而让出真人位的人，让它去的。它是被放上去的，不是自己爬上去的。要追究，追究放它上去的人；要解开，解开那些人手里的那道结。不能追究工具。
道理本不难懂，人却常在此处失了分寸。见一件事出了错，最省事的追究，是追究那眼前动手的；而工具，恰是那眼前动手的。于是火便烧向工具，仿佛砸了它、禁了它，事情就了结了。可这一追，追错了对象。工具动手，是奉命动手；命令是人下的，边界是人划的，位是人放的。追眼前动手的工具而放过背后下命令的人，正如责打一柄伤了人的刀而放过那挥刀的手，刀销了，手还在，换一柄刀，照旧伤人。
二、它再自主，仍是工具
或许有一道更深的疑问：人工智能不是愈来愈自主了么？它能自行学习、自行决断、自行输出，与一柄锄、一辆车不同，它不是被动的工具。
这一层要说清：它再自主，仍是工具。它的自主，是工具属性的自主，是算法在算、数据在算、参数在算，并非 “它自己” 在定夺。它没有 “我自主决断” 那一份，没有自己的本意，没有自己的良知，没有 “我何以如此决断” 那一念。它输出一个结果，那结果是算法、数据、训练的产物，不是 “它自己” 的产物。那么这结果错了，错的不是 “它自己”，错的是：设计这套算法的人，喂这套数据的人，将这套系统放到那个位置上的人，未曾为它划清边界、未曾要求真人持照担责、放任它去做它做不了之事的人。一柄未上保险的枪交与孩童，出了事，错在孩童么？错在枪么？错在递枪的人。一件没有那五样、担不起责的工具，被放上判定生死的位，出了事，错在工具么？错在放它上去的人。工具愈自主，愈显得像是 “它自己” 在决断，放它上去的人便愈容易借这层表象把责任推得干净；可表象终归是表象，自主的外衣底下，仍是一件无我、无本意、无良知的工具。
三、这一窝人，与旧日那一窝是同一类
那么这一窝 “把工具放上人位的人”，是怎样一窝？与上一卷立过的那一窝把自己活成工具的人，是同一类。
回看上一卷：那一窝只认字面、不读本意，眼里只有条文、心里没有活人，办着程序、害着人命，出了事便推说 “我依规矩办了”。这一窝把工具放上人位的人，是怎样？只认指标、不读本意，眼里只有省钱省事、心里没有那个被算法压住的活人，走着流程、盖着合规的章、把活生生的决断让与冰冷的工具去算，出了事便推说 “是算法所定，非我之过”。两窝一模一样。是同一类人，同一道结，同一种空。所不同者，旧日那一窝是把自己活成了工具，这一窝是把别的真人位让给了工具；根本上，都是读字面不读本意，都缺了那五样。而到工具的时代，这一窝比旧日那一窝更甚：旧日那一窝亲手按字面害人，一年若干例；这一窝把按字面害人这一套，外包给一件比自己更快更冷的工具，顷刻千万例。他们手上干净，可活人的性命，未曾少折。他们只是这一回，躲到了工具的背后。
躲得愈深，愈难追究，这正是这一窝比旧日那一窝更难对付之处。旧日那一窝按字面害人，好歹还是他亲手落的笔，追到他面前，白纸黑字，赖不掉。这一窝把决断让与工具，出了事，一句 “是算法所定”，便把自己摘得干干净净：似乎无人下令，似乎无人可责，似乎那害人的结果是从机器里自己长出来的。可机器不会自己长出害人的结果，是有人设计了它、放了它、用了它、又在它身后收着省下的那笔钱。看清这一层，才不至于被那句 “是算法所定” 蒙过去，才追得到真正该追的人。
四、懂技术的那一头，要分清两种
或许有人要问：那真懂技术、写代码、调参数、训练它的人呢？他们岂非更该担责？
这一头要分清两种。一种，明知它没有那五样，明知将它放上人位会害人，仍去推它上位，为的是升迁、股价、名声、为的是不落于人后。这一种，与那发照签字的一窝同罪，甚至更重，因为他们最懂那道边界、最知工具不能替代真人，却仍把它往人位上推。此即上一卷立过的、清醒地拿字面害人的那一种，最令人齿冷。另一种，心里揣着真懂的那道边界，一遍遍向同侪、向公司、向决策者进言 “这事工具做不了，必得真人持照担责，必得留人在其间”，却被打压、被边缘化、被讥为迂阔、被裁撤。这一种，是被结缠住、待救的好人，与上一卷那些怀真心而被坏机制养空的人一样。本卷后文要救的，正是这一头：把他们从被缠住的处境里扶起来，让他们手里那道 “工具当止的边界”，说得出、立得起、护得住。
五、工具也是被害的
那么工具本身，处在什么位置？它是被害的。
它本应在工具的位置上，做工具应做的事：辅助真人、为真人减负、让真人腾出那五样去做真人应做的事。这是它本来的位，也是它本来的好。可它被这一窝人，硬推上了真人位，去做它做不了的事，去担它担不起的责，做错了事，背上了 “它在害人” 的恶名，惹得世人恨它、怕它、想毁它。它是无辜的工具，被推到一个本不该在的位置，做了本不该做的事，背了本不该背的名。它，也是被害的。这一层立明，那股要砸它、禁它、毁它的火，便该消了。砸它，如同上一卷把那一窝人尽数打倒一般，打错了对象。真正把工具放上人位的那一窝，还在原处；砸了工具，他们换一件工具、再放上人位，照旧害人。
更要看清，工具被推上人位，受损的不止工具自身的名。它一旦占了真人位，那本该由真人在此位上养出的守、护、爱、念、心，便无处可养；工具背了恶名是一层，真人那一份失了养处，是更深的一层。所以为工具正名、把它按回工具位，从来不只是替一件无知无觉之物申冤，而是为真人那一份留住它本该生长的地方。这一层，下一节将顺着 “皮之不存” 那道根本，立到最深处。
六、罪在人，责在人，解在人
本节立明一件事：罪在人，不在工具。
罪在把工具放上人位的人，不在工具。工具无辜，它本该在工具位，被硬推上人位，背了不该背的名，它也是被害的。这一窝把工具放上人位的人，与上一卷那一窝把自己活成工具的人，是同一类，只是躲到了工具背后。要解这道局，不是砸工具，是三样一齐：把工具按回工具位，把被让出的真人位扶回来，把那一窝人扳回读本意、护人民的真人位。罪在人，责在人，解在人。三个字，字字落在人身上，不落在工具身上；这是本卷一切立法的定盘星，也是它与 “砸物救世” 那条路的根本分野。
可读到此处，一道疑问会随之升起：既如此，工具既无那五样、无知无觉，那 “救工具” 又救的是什么？为何要救？凭何而救？这一问，将引出全书最深的一道根本，下一节正面立明：皮之不存，毛将焉附。
功劳归老祖宗，错误归小雷。