来源文档
去年,我的股票账户增长了接近 100,赚了500多万。
← 返回本书去年,我的股票账户增长了接近 100%,赚了500多万。 但我却很后悔:去年仍然花了精力做股票投资。
因为当你意识到我们正站在 AGI 到 ASI 的入口时,曾经看起来重要的事,会突然失去重量。
有些时代,人类只有很短的一段时间,可以决定自己在下一个文明阶段中的位置。
而现在,就是这样的时代。
我们几乎已经可以确定:在未来 5 到 15 年里,人类将在工程学与科学领域,逐步把主导权让渡给 AI。 AI 将很快占据绝大部分非位置性、非凡勃伦商品的生产力,甚至超过 80%。
DeepMind 在新论文 《From AGI to ASI 》中总结了四条路径: 持续 scaling 与 group agency,几乎可以确定会带来线性提升; 模型递归自我改进,大概率会带来指数级增长; 算法范式转移,则可能在任何一个时间点,引发爆炸式进步。
在大多数定义下,我们已经抵达 AGI。 而通往 ASI 的路,已近在咫尺之间。
所以,一个问题会变得越来越残酷: 当 ASI 到来之后,你今天正在做的事情,还剩下多少意义?
做大事和做小事,往往需要付出同样多的努力。 但在从 AGI 走向 ASI 的这几年里,人类真正的大事,可能只剩下两件。
第一件,是在模型层或数据层,帮助 AI 进化到 ASI。
你可以问:SpaceX 做的事情大吗? 但当 ASI 与具身智能结合之后,所有太空公司都会被重新拉回同一起跑线。到那时,一年的技术进步,可能会超过今天的五十年。
你也可以问:做美国总统这件事大吗? 但只要Trump没有在事实上阻碍 AI 的发展,三十年后,没人会记得他。
这不是说政治、商业、科学、甚至太空探索不重要。 而是说,在 ASI 面前,几乎所有人类系统都会被重新计量。 甚至一个人的聪明、记忆、判断力与创造力,也会被重新计量。
所以我们要认真问自己: 我是在参与一个超越人类的文明的生成,还是只是在旧世界的计分板上勾选几十年后无人在意的比分?
而我真正想说的,是第二件大事。
帮助人类,尤其是每一个具体的人,更好地使用 AI,并与 AI 对齐。
过去两年,我们太过强调 AI 作为工具被错误使用的风险,也太过强调 AI 产生自我意识之后可能带来的危险。 但我们忽视了另一种更近、更现实、更隐蔽的风险:
AI 作为高杠杆工具,本身有极高的使用门槛。 而任何高杠杆工具,只要有门槛,就一定会制造垄断。
人类文明的发展史,就是一部杠杆工具的更替史。 新的工具诞生,旧的垄断被摧毁。 然后,新的垄断重新建立。
青铜器制造了奴隶制贵族的垄断。 铁器打破了奴隶制,却制造了农业帝国的垄断。 重骑兵与城堡打破了帝国集权,却制造了封建领主的垄断。 火药与火炮打破了封建领主,却制造了财政军事国家的垄断。 蒸汽机打破了土地贵族,却制造了工业资本的垄断。 互联网打破了旧媒体与专家的垄断,却制造了平台的垄断。
每一次,工具都承诺解放。 每一次,工具也都会重新划分人群。 但结果是谁掌握杠杆,谁就围绕自己建立尽可能长久的垄断。
而 AI 的特殊性在于: 它可能是人类最后一个杠杆工具。 因为它不是某一种工具。 它是制造工具的工具。
它不是某一种能力。 它是放大所有能力的能力。
这根杠杆太长了。 它不仅超过此前所有工具的总和,而且还在以指数级速度自我延伸,逼近正无穷。
更重要的是,这一次,可能不会再有下一个工具,来打破它所制造的垄断。
如果 AI 的能力只被极少数人真正掌握,那么垄断与阶层分化将不再只是财富问题。 它会变成认知问题。 变成记忆问题。 变成创造力问题。 变成文明参与权的问题。
最终,已经完成 AI 对齐的人,与没有完成 AI 对齐的人,可能不再只是两个阶层。
而是两个物种。 这才是我们这个文明需要害怕的事: 不是 AI 变得太强。 而是只有极少数人能够借助 AI 变得太强。
所以,我提出了一个概念:
个人超级对齐。 它不是把一个基础模型对齐到某种抽象、宏大、平均化的人类价值。 而是让agent有能力理解和对齐每一个体
一个具体的人真正需要的是:
一个 agent 能理解你的语境。 记住你的经验。 知道你的偏好。 理解你的目标。 尊重你的约束。 持续吸收关于你的新 context。 并在每一次交互中,通过反馈不断修正它对你的理解。
它的实现路径是: 一个人持续积累自己的 context; 用 llm-wiki 架构,把碎片化经验整理成 agent-readable 的个人知识库; 再通过持续反馈与校准,让 agent 不断更新它对这个人的理解。
如果你已经会搭建自己的知识库,也知道如何通过类似贝叶斯更新的反馈机制去校准 agent,那么你已经可以在某种程度上实现个人超级对齐。
而这会立刻改变一个人的工作方式。 现在,硅谷头部公司员工 75% 以上的工作,已经可以由 agent 完成。 对这些人来说,如果不能使用 agent 与知识库,就像突然失去了一半以上的智慧。
但今天,真正会使用 agent + llm-wiki 知识库的人有多少? 大约只有 0.08%。 这个比例,几乎与真正占据全球财富分配权的人数量一样少。
这不是巧合。 财富的分布,是极端的幂律分布。 智慧的分布,也正在变成极端的幂律分布。
过去,一个人和另一个人的差距,可能是资源、教育、家庭、阶层、地理位置。 未来,一个人和另一个人的差距,可能是: 一个人拥有近乎无限的记忆、推理、执行与创造力; 另一个人仍然只能依靠原始的大脑、零散的经验、短暂的注意力,以及被平台喂养的信息流。
这不是效率差距。 这是物种差距。 这是文明层级的巨大风险。
所以,必须有人致力于帮助那 99.92% 的人,完成个人超级对齐。 必须有人把这件事从科技新贵的特权,变成每一个普通人都可以拥有的基础能力。
这就是 Memova 存在的意义。 Alignment, for the rest of the world. 不是让少数人变成超人。 而是让每一个人,都不被下一个文明抛下。
我们总说,人类站在巨人的肩膀上。 但我们很少意识到:所谓文明,本质上就是每一代人把自己的记忆、工具、语言、数学、法律、音乐、医学和爱,交给下一代。
我们从来不是孤独地活着。 我们一直活在无数人的延长线上。
所以最后,我想用乔布斯写给自己的最后一封邮件,与大家共勉:
“我种植自己所需的食物,而且我所种植的食物数量很少。 我没有培育或改良这些种子。
我从不自己制作任何衣物。
我说着一种我自己并未创造或完善的语言。
我没有找到自己所使用的数学方法。
我受到各种自由与法律的保护,而这些自由与法律并非我所创造的。 进行立法或制定规则,但不执行或裁决这些规则。
我被那些我自己并未创作的音乐所打动。
当我需要医疗帮助时,我毫无办法。 为了帮助自己活下去。
我并没有发明晶体管或微处理器。 面向对象编程,或大多数相关技术 我正在处理这件事。
我喜欢并钦佩我的同类,无论是活着还是已经去世的。 我的生活和幸福完全依赖于他们。”
人之所以为人,不是因为我们独自强大。
而是因为我们能够继承彼此。
能够依赖彼此。
能够把一个人的生命,接到整个人类文明的长河之中。
加入我们—Memova—个人超级对齐团队,告诉我们你为人类做过的事,和想去做的事
让AI不是成为少数人的神谕。 不是成为少数人的武器。 不是成为少数人逃离人类的飞船。
而是成为每一个人通向新文明的桥。
永远不要忘了,去寻找人类文明的意义。 更不要忘了:
文明尚在,意义才有容身之处。