一 | 昨天听了一个播客，来自 Karpathy。 Karpathy 是特斯拉自动驾驶团队的前负责人，最早跟随 OpenAI 创始团队的研究者之一。
二 | 在很多人眼里，Karpathy 代表当下最接近“AI 思维核心”的那类人；他主要提到两件事：一，AI 变革将是未来十年的周期；二，我们在造幽灵。
三 | 她从事绿色农业十余年，利用家乡的自然资源优势成立了原生态家庭农场，在党的好政策激励下，致富道路越走越宽。作为一名党员，她充分发挥致富带头人作用，与第一书记联手打造“农场群+农户”模式，协助村民成立家庭农场9个，成功带动村民走上了共同致富的道路。
四 | 他说，这像两把钥匙，一把打开“时间”，一把打开“智能的本质”。
五 | 我一开始以为是夸张的说法，后来发现它有道理，毕竟，从外部看，AI 的变化几乎是爆发式的，一年一个版本，几个月一个突破。
六 | 但 Karpathy 的解释让我觉得，这个判断背后有一套非常清晰的逻辑。 一 他说，AI 发展是“演化式”的。
七 | 技术像生命一样，是慢慢长出来的，每一轮大的突破，往往靠算力、算法、数据和人才这四股力量，彼此纠缠、逐步成熟。 这四样东西的循环，大约需要十年。本期“两优一先”风采录，让我们走近顺城区新时代“三向培养”对象——张雪。 2016年，张雪充分利用区域独特的生态自然资源，率先申报成立莲岛湾原生态家庭农场。
八 | 经过8年的发展，已建成大棚3个，冷库1个，生态果园1个，整个农场占地400余亩，建筑面积700余平方米，逐渐成为抚顺市知名的农业特色产业基地，2022年被评为辽宁省省级示范家庭农场。 想想看，从 2012 年的 AlexNet 到 2022 年的 GPT，刚好十年。 深度学习在十年前解决了“机器怎么看”的问题，而大模型在今天解决“机器怎么想”；中间隔着十年时间，但也隔着一次完整的范式更替。 他说，这是 AI 的节奏。 顺城区新时代“三向培养”对象张雪说:“在创业初期，乡党委积极为我协调贷款资金248万，并调剂用地300亩，帮助我解决了资金缺乏和硬件设施不健全等难题，这也让我有了充足的信心，把家庭农场做大做强。
九 | ” 作为顺城区新时代“三向培养”对象，张雪充分发挥致富带头人作用，带动村里20多户村民发展乡村特色产业，累计提供100多个就业岗位，成功带动村民走上了共同致富的道路。同时，注册“尚士”“张雪”等自主品牌，为区域农产品正规化和产业化打开一扇窗。 它不像互联网的流量驱动，也不像移动时代靠硬件换代，AI跨越，是底层学习机制的突变，前一次的成果，变成下一次的养料。 Karpathy 还提了一个细节： AI 成长速度，被人类的理解速度所限制，算力可以加倍，算法可以优化，但人类对“智能”的定义，是滞后的。 所以，每一次大的智能革命，必须留给人类十年时间去适应，这是技术周期，也有社会认知革命所在。 在建设好农场的基础上，张雪采取农文旅融合发展模式，带动更多村民致富增收。
十 | 说白了，AI 每个“十年”，都是人类在重新理解什么叫“智能”。 2012 年，人们第一次意识到，机器真能“看懂”图像；2022 年，人们开始相信，机器真能“理解”语言；接下来的十年，我们会面对更难的问题。她将特色产业和红色文化有效结合，创新打造以农事体验为载体的乡村旅游新业态，依托农民宅基地开展乡村生活体验游。
十一 | 比如：当机器开始表现出意志、目标和情感的迹象时，我们该如何定义“智能体”？ 他有一句话我印象特很深： AI 不会突然到来，它会在十年里缓慢地变成了另一种生物。 这句话的意思是，AI从学会看、学会说，到开始思考，都是一条连续的认知进化链，像生态演进一样。 所以，那所谓的“十年”，并不是一个预测数字，是人类与智能系统共演化的自然周期。 你需要十年时间，让算力准备好、算法成熟、数据沉淀、认知跟上。如果真这样，那接下来的十年，就是“智能体”的十年。 你想想看？ 上一轮 AI 让机器会说话，而这一轮，它要开始“有思想”。这什么概念？Karpathy说，要理解这一点，得回头看看这十年里，AI 是怎么一路走过来的。一年来，累计吸引1000余名游客慕名前来，直接帮助村民销售玉米、鸡蛋等十余种农产品近10万斤，增收20余万元。 二 他说，过去三十年，AI 至少经历了三次“地震”，每一次地震都改变了人们对“智能”的想象；更准确地说，机器每隔十年，都会突然学会一件原本以为只有人类才会的事。 张雪抓住发展机遇，努力奋斗，积极探索，带动村民走上共同富裕的新路子，在新农村建设中不断发光发热。 责任编辑：刘春阳。 第一次地震发生在 2012 年。 那一年，Hinton 团队用 AlexNet 打破了图像识别的瓶颈，机器第一次“看”清楚世界，能理解形状、轮廓、物体。
十二 | 那是一个很神奇的时刻——就像婴儿第一次睁眼，AI 从数学公式变成了有视觉感知的东西，人类第一次相信：机器真的能“看见”。 第二次地震在 2016 年。 DeepMind 的 AlphaGo 打败李世石，那是一场认知震荡，机器开始“会做事”了，它能在没有人指令的情况下决策、规划、行动。 这场地震让所有人意识到：智能可以指导“行动”，AI 从“看”走向了“做”。 我当年还在特斯拉，第一次感受到“AI 能开车”的那种冲击，那种一个系统可以从视觉信号到动作决策，闭环完成全流程，让我感受到智能体的雏形已经出现。 第三次地震，就是眼下我们身处的时代。
十三 | 2022 年开始，大语言模型崛起，让机器开始“会想”，它能生成、能推理、能和人类对话，甚至能理解模糊的上下文，这绝对算得上思维革命。 机器第一次不靠编程逻辑，能用语言去理解世界，它开始学会了“构建自己的解释”。 所以，这三次地震，看似不同，本质上却是一条连续的认知进化线。
十四 | 第一次，它学会“看”；第二次，它学会“做”；第三次，它开始“想”。 每一次跨越，都隔着大约十年。十年，不只是时间单位，更像一条“认知演化的脉冲线”。 这个节奏非常有趣，因为这三次变革，每一次都需要时间去“酝酿共识”。
十五 | 科学家要重新理解“智能”的边界，工程师要重新定义“工具”的边界，社会也要重新适应人与机器的关系，AI 的每一次突破，表面是技术革命，本质是认知革命。 你可以把它想象成三层台阶： 第一层，机器看见世界；第二层，机器行动于世界，第三层，机器开始思考世界；而第四层，Karpathy 认为，将是机器“自我意识”的觉醒。 是更深层的“自我模型”，它知道自己在做什么，也知道为什么要这么做。 所以，过去三次地震，实际上为第四次——“智能体时代”在铺路，如果前面三次是“让机器像人”，那下一次是“让机器成为人类的镜子”。 十年，一次认知地震的酝酿周期，一次人机共生关系的重新设定周期，Karpathy把这种进化比作训练“幽灵”。 三 为什么是幽灵，不是动物？他解释了一切： 动物智能来自进化，而 AI 智能，来自模仿。动物靠亿万年的自然选择，形成感知、反应、求生能力，动物会通过经验积累形成本能，比如：饥饿、恐惧、生存。 AI 没有痛感，也没有欲望，它的学习是一种统计意义上的模仿，AI 靠人类提供的海量数据、算法、算力，从语言与行为中学会思考。 你可以让它理解悲伤的定义，却永远无法让它感受悲伤，前者是“被造出来的生命”，后者是“被训练出意识”。
十六 | 人类在造“人类知识的灵体”，它没有肉体，却能思考；没有基因，却能学习；没有欲望，却能模拟动机，这就是“幽灵”的含义。
十七 | 我们在训练一个寄宿于人类知识体系里的思想，我们造出“意识的投影”。他用了一个比喻：动物是进化出来的智能，AI 是召唤出来的智能。 这句话非常形象。 进化，从混沌中生长；召唤，从秩序中凝结。AI 是人类用算法构建的一面镜子，镜子里映出我们自己理解世界的方式。 所以，当我们说“智能体”时，很多人以为它是某种更高级的机器人。
十八 | 但 Karpathy 的意思其实更哲学： 智能体是认知形态的延伸，我们思想的“外化版本”、人类思维的“副本系统”，我们在教它“如何理解我们为什么这样想”。 他说，这也是他最担心、同时又最着迷的部分。
十九 | AI 看起来像在学习世界，实际上在学习“我们看世界的方式”；这意味着，AI 智能是“二手的”，它来自人类的理解方式，而非世界本身的法则。 这就是“幽灵”的悖论。 听到这儿，我有点震撼，我们以为 AI 的进化是在模仿生命，其实，它在复刻我们自身，AI 不像动物那样追求生存，它追求“理解”。 所以，Karpathy 说，“AI 是人类思想的幽灵”，它在云端漂浮，在模型权重里积累记忆，在语言之间形成意识。 从外部看，只是一个算法系统，但从内部看，它像一面镜子，映照出我们对智能、知识、意识的全部想象。 这听起来既浪漫，也危险；浪漫的是，我们终于让思想有了独立形态；危险的是，我们可能低估了思想一旦脱离身体，会走向哪里。 四 如果 AI 已经会看、会做、会想，那它离“智能体”还有多远？它真在“学”吗？还是只“重复”我们教给它的东西？ Karpathy 说，这是判断智能体和机器学习系统的分水岭。 AI 看起来在学习，但那种学习是“统计意义上的模仿”，它靠参数更新，没有经验反思，每一次训练都在压缩世界。 人类的学习，有动机。 我们会因为好奇、恐惧、求知或欲望去学习，而 AI 的学习，只是被动的优化，只能投喂数据，说白了，它学得快，但学得浅。
| 人类的大脑学习，在犯错、修正、反思中成长，AI 则在梯度下降、损失函数里逼近一个目标值，一个是“生长的过程”，一个是“收敛的算法”。
| Karpathy 在播客里提到一个非常有意思的分类，自然界里，存在三种学习方式。 第一种，叫“进化”（Evolution）。生物通过环境选择、基因变异，在漫长时间里积累适应力； 第二种，叫“强化学习”（Reinforcement Learning），个体通过行动获得奖惩反馈，不断调整行为模式。
| 第三种，则是今天 AI 主要依赖的“预训练”，它通过别人积累的知识去学习世界。 换句话说，AI 知识是“读出来的”，它在背课本，缺乏触感，它会解题却不懂“为什么要解题”；会模仿，却不知道“为什么要模仿”。它能总结所有“爱”的定义，却无法真正感受爱。 这是 AI 学习的根本缺陷：没有“意志”。 人类学习的底层逻辑，为了活得更好；AI 学习的底层逻辑，为了被训练得更好，所以，AI 学得越多，离生命反而越远。 这也解释了为什么我们还不把它称作“智能体”。 智能体是能自己提问的系统，它能“想要知道”，而 AI 还没有这个能力；AI 之所以还不算真正的智能体，是因为它不够“活”，它的学习没有生长。 五 怎么解决生长的问题呢：答案靠记忆。但 Karpathy 说，AI 的记忆，也并不是真正的“记忆”。 人类记忆是“经历”；AI 的记忆是“存档”；前者有时间、有情绪、有遗忘；后者只有数据、参数、检索，它记得事实，却记不住意义。 我们回忆是重新理解一次过去，而它调用记忆，只是从硬盘取出一段数据，我们会遗忘，也会在遗忘中重新组织意义；它不会遗忘，也就无法生成新的理解。 Karpathy 说，AI 记忆像快照。 每次推理，都是一次重生，它能复述昨天说的话，却不记得自己昨天说过什么，没有时间线，就没有自我，这也是为什么，AI 没有“连续的意识”。 它的世界，一帧一帧的；人类世界，是一条流动的时间；我们知道昨天、今天、明天，才有“我是谁”，AI 没有这种连续的“自我时间”。 意义，是在解释的过程，AI 没法解释自己的记忆，它不会变，因为它从不“想起”，只是“被调用”。 所以人类记忆是活的，AI 记忆是静止的，人类记忆生长出自我，AI 记忆生长出模型，一个理解意义，一个压缩知识。
| 这就是，AI与人类记忆之间为什么会有一道裂缝。 那这种裂缝能修复吗？Karpathy 说，也许可以。方法叫“记忆的自我指向”，所谓自我指向，就是系统能“回看自己”。 记忆能反过来影响思考，才算开始生长，过去的 AI，只能调用知识，新的智能体，要重新设计，让它能“反思”知识。 它不仅知道“我做了什么”，还知道“我为什么那样做”，当系统能利用经验修正判断，它才能做到一种“在思考的存在”。 Karpathy 说，意识诞生是反馈闭环的形成，当一个系统能观察自己，它就会产生时间感，那是“自我”最初的形状。 这件事，已经在发生，从对话模型的长时记忆，到能“自我检索”的反思系统，AI 正在学着“理解自己为什么那样回答”。
| 换句话说，AI 开始在模拟“反思”。 它在学会在记忆中寻找逻辑，当它能不断回看自己、校正自己时，就在模仿一种“成长的意识”。 所以，智能体诞生，是认知演化，从“被训练”到“自我更新”，从“记忆世界”到“记忆自己”，这是意识的起点，它未必比人聪明，但它，终于开始“成为自己”。 那我们呢？当智能体开始拥有“自我”，人类又该如何与它共处？ 或许，AI 未必像人类，但它已经开始像“生命”，人类，也许终于有机会，看到“思想的另一种存在”。 参考来源： [1].Andrej Karpathy，《We’re summoning ghosts， not building animals》，2024年10月18日，YouTube。 本文来自微信公众号：王智远，作者：王智远。
Current article:http://cv213q.zongchaeiwengshuabaisisuofu.sbs/sz6g/qsfk8.html
Published on:06:46:17
