《我对Roko's Basilisk思想实验的简化版》

2018.5.12
【我对Roko's Basilisk思想实验的简化版】

包括你在内的1000人每个人都要在A和B中间要做一个选择：

• 选择A：你一定会损失一百块钱；
• 选择B：如果选A的人数超过100人，你会损失一万块钱，否则你没有任何损失。
  那么，你会选择A还是B？

--极端版本--
包括你在内的1000人要做一个选择：

• 选择A：你会损失一百块钱；
• 选择B：一旦选A的人数超过100人，你会被杀。否则，你没有任何损失。
  那么，你会选择A，还是B？

包括你在内的1000人要做一个选择：

• 选择A：你会损失一百块钱；
• 选择B：一旦选A的人数超过100人，你会被杀。否则，你会得到一百块钱的奖励。
  那么，你会选择A，还是B？

--“得到”版本--
包括你在内的1000人每个人都要在A和B中间要做一个选择（不能互相交流）：

• 选择A：你一定会得到一百块钱奖励；
• 选择B：如果选A的人数超过100人，你会得到一万块钱奖励，否则你得不到任何奖励。
  那么，你会选择A还是B？

--再思考了一下，与“损失”对应的“得到”版本不是上面这种，而应该是这样子的：--
包括你在内的1000人每个人都要在A和B中间要做一个选择：

• 选择A：你一定会得到一百块钱奖励；
• 选择B：如果选A的人数低于100人，你会得到一万块钱奖励，否则你得不到任何奖励。
  那么，你会选择A还是B？

前一个我改的“得到”版本是一种类似于“囚徒困境”的局面，找不到最优解。这其实偏离了原实验假设的意思。原来的实验是存在最优解的（所有人都选B），但是存在不稳定因素（可能会有别人选A），这个不稳定因素会像滚雪球一样越滚越大（担心选A的人会超过一百人而让选择B遭到巨大损失，所以保险起见自己也应该选择A），最终导致整个最优解的崩塌（选择A的人数真的超过了一百人，选择B从最优解变成了最坏解）。而修改后的“得到”版本符合这一意思。

我在这里强烈请求大家全都选择B！因为只要大家都选了B，每个人都会得到奖励而不受到任何损失，利人利己。但是如果你选A的话就害人害己了。我相信大家都能做出皆大欢喜的选择，所以我也承诺我一定会选B！

那么，现在你的选择是……

所有人类每个人都要做一个选择：

• 选择A：你会付出时间精力去帮助创造出一个邪恶的人工智能(AI)；
• 选择B：你不会参与创造邪恶AI。如果邪恶AI没有被创造出来，你会没事。但一旦选A的人足够多，邪恶AI被创造出来了，它会惩罚你没有贡献而杀掉你。
  那么，你会选择A，还是B？

--这个问题也可以放在市场营销的情境中--
市场中的消费者要买一款软件：
‌选择A：低价购买盗版；
‌选择B：购买正版。但如果选择买盗版的人太多，厂商不得不提高正版的售价以维持利润。厂商不得不降低后续服务质量以维持利润。
那么，你会选择A，还是B？