果。
“1、删除模型?”
这是最简单的思路,但也是最疯狂的一种。核辐射水平的上升肯定是被“造物之主”操控的。但没人知道删除操控者之后的系统是会恢复平稳还是更加狂暴。就像击毙自杀式飞机的飞行员,绝不等于飞机能平稳降落。想要知道结果唯有实验。但这实验无法模拟。一旦删除了系统爆炸,就没有回头之路。
“2、逐步回退?”
将模型一步一步地倒回昨天,同时观察核辐射水平的变化,如果变得更平稳,则继续倒退。这等于用“回到以前”的方式来治疗赌鬼。已知他现在是赌鬼,那么昨天的他会不会好一点?再前一天呢?倒回几年、几十年前呢?如果那时的他不是赌鬼,那么从那时再开始重新训练,他还能成长为一个正常的人吗?
这样似乎要温和了很多,但绝不是稳赢的。倒退本来就意味着大量算力和数据的浪费。且没人知道倒退到什么状态能解决问题。如果一个成人要倒退成婴儿才能修复BUG,那也和“删除”差不远了。
“3、继续训练?”
如果回退不能解决问题,那么继续往后训练就变成了唯一的选择了。对一个赌鬼晓之以理、动之以情,劝他不要再继续赌博。这能有毛用?说起来真是可笑。人工智能最终面对和人类几乎一样的问题。这就是所有“智能”必然的归宿吗?
“呵呵,我有个更好的想法。”