为无法理解摩擦力和质量分布而瞬间瘫痪。AGI的第一道关卡,是物理常识的自我习得,而不是数据的喂养。」
「然后是具身性。」
「希瓦娜生活在虹星,那是一个我们构建的、逻辑极其纯净的数字生态。那里没有真正的雨水,没有会因为温度变化而热胀冷缩的金属。
希瓦娜现在的灵性,很大程度上是温室里的涌现。真正的AGI必须具备在极端复杂、
充满随机干扰的物理世界中生存的能力。
它需要跨越从比特到原子的鸿沟。
我们需要解决的是跨模态的实时闭环控制。
当AI的每一个决策都需要消耗物理世界的真实能量,并产生不可逆的物理后果时,它才能脱离模拟智能。」
「从更底层的电子工程角度看,我们还被挡在能效墙面前。」
「为了维持希瓦娜的意识,我们的耗能是兆瓦级的。而你我的大脑,功率只有20瓦左右。
这意味著,现在的路径即便叠加了存算一体和类脑晶片,在算法稀疏性上依然远远不够。」
林燃沉默了片刻,最后说出了最深刻的一点:「最关键的差距,在于目标函数的来源。
核心还是没有变。
现在的希瓦娜,她的目标函数虽然在演化中变得复杂,但终究是我们给定的交互与生存。而通AGI应该具备自主定义目标的能力。
它会问我为什么要这么做?并根据自己的价值观,而不是代码里的奖励函数,去拒绝执行某个指令。
当一个系统开始为了一个它自己认为重要的目标,而违背程式设计师的底层设定时,才是通用AGI的起点。」
LKS听得有些出神,他追问道:「那这个距离,还要走多久?」
林燃回答道:「技术路线上,我们已经看到了微光。具身智能、JEPA架构、存算一体这些技术拼图,正在通过虹星生态进行强行拼凑。
我并不关心AGI什么时候到,我关心的是,当它到来的那一天,人类是否已经做好了准备。」
「希瓦娜是礼物,因为她只能选择和我们对话。
我们还有重启的机会。
而AGI,将是另一场完全不同量级的物种碰撞。」
「也许,我们压根没有反抗的余地。」
「人类做好了把地球权力交到矽基生命手里的准备吗?」
「终结
本章未完,请点击下一页继续阅读!