用什么样的标准来管理更有效？是主观标准还是客观标准？
答案好像是明摆着的，当然是客观标准更有效。过去的200年，人类一直试图在用客观标准来替代主观标准。客观标准的好处有很多，精确、丰富、理性，大家做起事来方向统一，易于协同等。
当然，这背后还有一句潜台词，就是人是不可靠的。用主观标准来管理事务，我们就要对付很多人性的弱点。人的偏见、贪婪、脆弱等。不管在什么领域，我们这代人相信，法治总比人治好，制度管理总比人性管理好，客观标准总比主观标准好。
是这样吗？
我们推导一个极端的情况你就明白了。超级人工智能一旦实现，对人类其实是很可怕的。为什么？
比如你有一台能力超强的家用机器人，你对机器说，我要快乐。这总没问题，机器一计算，让你最快乐的方法，就是把头割下来，泡在特定的溶液中，从此你就没有任何烦恼只剩下无边的快乐。你说，不行，不能把头割下来，你不能伤害我的身体。机器说，也行，那就把你关在家里，给你放化学气体，也能让你快乐。你说，不行，不能限制我的行动。机器说，也行，那就给你做一个迷宫，你在里面只能遇到快乐的事，让你不高兴的事一样也没有。你说，不行啊，那不是真实的世界。机器最后说，让你觉得这是真实的世界不就行了吗？你看，这对超级人工智能有多难。
不管你设定多少条件，机器都可以把它换算成客观标准，然后彻底执行，最后一定都通向你不愿意看到的结果。
这么多复杂的现象和行为，不可能每一条都写在客观标准里、印在书上，需要一个活生生的人来做综合判断。
过去200年，我们痴迷于用客观标准来管理事务，取得了巨大的成就。但是未来，随着环境越来越复杂，人的主观判断的价值其实也会越来越大。
我们生活在一个人的价值得到复兴的时代。套用那句话，人是什么？人既是一切努力的目的，也是衡量努力成果的手段。
网友评论