1.6 个人知识树实例 | annotated by Harry

图文

手机观看

知识体系是判断力的基础,知识体系是格局和视野的本质,知识体系是世界观的前提,知识体系是个人自由的保障。好消息是,我们生活在构建个人知识体系的黄金时代。

100 年前,有个人在文章里写:我家门前有两棵树。一棵是枣树,另一棵还是枣树。

现在,我对着电脑:我的电脑里也有两棵树,一棵是知识树,另一棵还是知识树。

对着这两棵知识树,多年来对这些领域的关注、阅读和学习过程在眼前自动回放,很有一些感悟,不吐不快。

为什么是深度学习知识树?不是机器学习知识树?不是AI知识树?不是GPT知识树?

深度学习是机器学习的子集,机器学习是AI学科的子集。名字上突出深度学习,但实际内容也是机器学习知识树,是 AI 知识树。

在GPT支配AI浪潮的时刻,或许有人觉得只应该针对GPT画个知识树。但这一次革命是深度学习的革命,GPT只是这场深度学习革命的一个代表。

所以,我把对 GPT和AI 主题的关注,把主题研究的目标细化为:针对深度学习画知识树。

回顾:有树之前

兴趣

在AlphaGo之前,零星知道过一些AI有关的进展。当时还是审计师,了解过IBM的watson问答系统,以及Google翻译在AI方面的进展。

但是,AlphaGo对我的冲击是极具震撼的,因为我发现全世界的人好像都懂 AI 和围棋,都在热烈谈论它,而我对此一无所知。当时我觉得这是几年来闷头做审计师导致限于专业、与世界隔绝的后果,一直耿耿于怀(我没有想到可能是很多人不懂装懂🤣)。

2016年 AlphaGo 带来的震撼,到现在 7 年了。7 年来,AI震撼一直持续到现在,而且越来越震撼,以至于现在我会频繁地产生给 GPT 磕头的冲动。7 年了!人一辈子又能过几个 7 年?7 年没搞懂 AI,以后还能搞懂吗?

必要

在过去一年里,每天至少会接触到 10 篇与 AI 有关的新闻。可以断定,未来10 年里AI震撼会越来越大,人们越来越无法逃避对 AI 的讨论和争论,必须直面 AI 对我们普通人工作学习生活带来的冲击和震撼。

另一方面,有多少人是真正“懂”AI,“懂”ChatGPT 的?了解几个新名词的极其容易的。我观察到8岁小孩就能对ChatGPT、Dalle、AI、神经网络这些新名词显得很熟稔,用起来显得自然而平常。但是,对新技术形成真正的理解,在原理层面上理解“what is it”, “how it works”, “why it matters”,这是一个并不容易的目标。

所以,我们看到网上充斥着对ChatGPT 和 AI技术的讨论,这些观点往往截然相反,相互对立,各人有各人的观点,争论不休。是的,面对新事物,没有画出个人知识树,没有建立成体系的知识框架,那么,人们对新事物的理解和判断往往不过是观点的搬运,基于个人信念和情绪偏好来搬运适合自己的观点。

归根结底,对于普通人,真正搞懂GPT、搞懂深度学习、搞懂 AI,成了一件重要且紧急的个人目标。

构建:画树

回顾一下,认识到必须搞懂AI之后,这些年我是做了一些努力的。

未画知识树

2016年的时候,我曾经把通过”在行“结识的一些人组织成了一个小组,一起来学习AI,包括线上微信群的交流,以及线下聚会。但没有半年就无疾而终了。

一直到2019 年之前,我对 AI的了解主要来自碎片信息。看了一两本 AI 主题的书,但是绝对不对,没有到主题研究的程度。看过一些视频和讲座,仅此而以。有一些零星的思考(知识管理的未来,evernote 与 AI 打通,每个人拥有自己的私人助理),但没有采取明确的方式来梳理 AI 的知识体系。

第一次画知识树

2019 年,我认识到要彻底搞定“学习”二字,不可忽视机器学习对人类学习的启发和作用。于是按照当时的费曼学习法,我构建过一个 AI 的 bok。

主要的学习资料是AI 的主题书单,以及 Evernote 中积累的 AI 主题深度长文,没有课程类资源。用 XMind 作为知识体系的承载工具。每本书的笔记和思考是一个 xmind 文件,还单独建立了一些独立的 AI 主体的 xmind。于是,一大堆xmind 文件通过手动创建的链接关联起来,也算是有一个“AI 知识树”了。

现在的画知识树

如前文所述,现在的知识树构建,方法和原理上没有本质变化,但工具升级成了logseq,颇有鸟枪换炮的感受,在效果上是有 10 倍以上的提升。可以说,因为我们对学习理论、知识体系构建的道法术器全面升级,现在是“构建个人知识体系”的最好的时代。

知识树的内容来源

如前文所述,画知识树框架很容易:Wikipedia、谢诺夫斯基的《深度学习》。再配合一本《深度学习》教科书(”花书“)作为辅助,基本上有 20 个小时就能了解领域全貌了。

关于知识树的树干

收到熊友的提问:深度学习的树干是什么?

这个问题很好,于是我在新版的知识树上强化了一下树干。深度学习的树干(基本原理)来自 3 个地方:

神经网络:借鉴人脑神经网络的基本结构和原理,人类可以创造出智能。这是真正的 big idea。这个 idea 曾经被嗤之以鼻,只有 hinton 等少数人(还都是有生物学背景的人)坚信并坚持了几十年。坐了几十年冷板凳,还不断在技术上推进这个 big idea(从单层的感知器,到玻尔兹曼机,到深度神经网络,到各种新的技术架构),才有现在的深度学习革命。
机器学习:机器可以学习,从数据中提取模式,提炼出有用的信息。人的学习不擅长且做不到的事情,机器学习反而很轻松。机器学习的算法(监督学习、无监督学习、强化学习、进化学习等)和理论,也是深度学习的发展基石。
数学:神经网络的灵感来源于生物学,特别是人脑的工作原理,但其设计和操作基础却是数学,包括线性代数(用于数据和权重的表示和操作)、微积分(用于优化算法,如梯度下降)和概率论(用于理解和量化不确定性)。大学时线性代数、概率两门课我都挂科了,我在应试模式的学习中弄不明白这些东西有啥用,所以才不想学。事实上,数学无处不在,是一切科学的基础设施。

思考熊友问题的时候,我回顾了深度学习的树干,发现了一个朴素但重要的道理:基础的科学知识和 idea,这些才是一切生产力的底层原理。

很多时候,一个人的一生都是为了一个 big idea 而活。

真正重要的东西是朴实无华的。这些创造未来创造人类历史的人,他们不是什么天才聪明人,只不过他们是出于朴实的智识好奇心(intellectual curiosity),稳扎稳打,基础扎实,而且勤奋,所以才能有这样的创造。

这样的认识,对于当下浮夸、扭曲、以吸引流量为目的的线上学习和知识付费生态,是非常有益的。

关于枝杈和树叶

知识树的枝杈和树叶,就是具体的知识、技术和应用了。当我们有了一个知识框架,如如马斯克所说,再遇见具体的知识点,我就知道是怎么回事了,这些树叶级别的知识就有地方可以挂了。后续的学习,效率和效果上就会截然不同。

改变:有树之后

人生信息流的源头,不是某种神圣的、绝对正确的、死的知识(如某些知识源头论所说),而是在真实的生活中解释世界解决问题。

有了知识树之后,应该给个人带来一系列有益的改变:

解释世界

搭建思考框架,这是判断力的基础

有了知识树,就可以有更好的思考,更好判断力。

举个例子,有人认为GPT虽然可以生成优秀的文章但是它没法“理解”,GPT只是一个“随机鹦鹉”。真的是这样吗?每个人都知道“批判性思维”的重要性,但是,一个人如果对这个领域没有知识,他如何判断这类观点的正误?

我经常在网上看到大V的暴论,很多暴论明显是违背常识的,是收了黑钱来给大平台洗白的,但是,这样的暴论往往很流行,迎合上了很多人的情绪。让人感叹”无所谓对错“真是一件可怕的事情。

没有知识体系,不但没法自己思考,关键还是无法判断。判断的基础是知识,没有知识就没法靠纯逻辑来判断。没有思考的框架,学再多的批判性思维技巧,也无法形成自己的独立思考。 最终的结果只能是人云亦云,听大 V 的,听专家的,听有名气的人。

GPT 爆火之后,有人担心学生会用 GPT 作弊,必须禁止学生使用 GPT。这又是一种观点。如果没有知识体系,你可能知道这种观点不对,但是,学习者应该如何使用 GPT 这样的 AI 技术,这种思考又是需要背景知识的,而且得是成体系的知识。

知识体系还会带来所谓的格局和视野

是的,格局和事业来自成体系的知识,而不是碎片的”认知觉醒”。

例如“OpenAI 政变”这件事,如果你真正了解当事人,了解sam altman 和 ilya,了解加速主义、对齐,了解 OpenAI,你看事物的角度就和别人不一样。

如果没有这些知识,一个人就可能只能从自己的已有知识框架出发来理解:这就是现实版的“甄嬛传”啊,altman 是哪个角色,她阴险狡猾手眼通天。ilya 是什么角色,他手段如何阴谋篡位。一个人一辈子只看戏不读书,结果就是看什么都是清宫戏,只会采用宫斗视角来看这件事。所谓”井底之蛙“,也就这样了。

另外,如果你了解 OpenAI 是怎么回事,理解 OpenAI 是怎么开发出震惊全球的 ChatGPT 的,你就会深刻地明白一个道理:坚持做一件正确的事情,这么做的重要性,意义和价值。你也不会为了追风口,明明只会做平台垄断和低水平压榨,却宣布自己要做“中国版 OpenAI”,贻笑于天下人。

这样的大道理,你在微信文章里看 100 遍,实际上都只是苍白无力的。但是,如果你对 Apple、nvidia、OpenAI 这些公司如数家珍,真正理解伟大公司伟大产品背后的发展历程,而这样的认识,会改变你看世界的方式,改变你看自己的方式,改变你决策和做事做人的方式。也就是所谓的格局和视野。

解决问题

画知识树之后,对解决问题有帮助吗?

善用利器的前提是对技术的深度理解

使用技术的方式有两种:理解之上的使用 vs 不理解就使用。很多人觉得,技术只要”用“即可,不需要”理解“:手机、互联网,你看,是个人都能用,不需要懂和理解啊。

说的太对了!!! 我忍不住给你点赞。看看吧,看看不理解这些技术的人,用手机和互联网到底干了什么?沉迷短视频、直播和游戏?享受更新更强的娱乐?把大活人活活变成了人体干电池?有没有因为使用了新技术和新工具而改善了生活,提升了自己?

“what is it”, “how it works”,“why it matters”,如果对互联网、AI 等关键技术有这种基础但深度的理解,这个世界就不会变成更糟糕、更分裂、更极化的版本,孩子和老人就不会塌陷式沉迷手机,就不会有这么多荒诞的现象。

AI 与普通人的关系

根据OpenAI的技术发展势头,以及 sam altman 和 ilya 等专家的判断,superAGI 可能也就是几年内的事情了。毫无疑问,我们需要培养出自己的 prompt 元技能、打造自己的 GPT 大法,建立全新的学习和教育范式。

所有这些,都不可能脱离深度学习知识树这个基础,不可能脱离对深度学习这个领域的全局性认识和基本理解。

我的电脑里有两棵树,一棵是AI知识树,一棵是芯片知识树。现在,我们来谈一谈另一个树:芯片知识树。

回顾:有树之前

好像是2019年之后,就不断看到“关键领域核心技术”这样的表达,知道在芯片上被“卡脖子”。20 年前汉芯造假的时候,国人就对芯片行业恨铁不成钢,基本上可以把芯片行业看成另一个版本的“国足”。

考虑到以后很多年都会不断遭遇芯片话题,会读到不少与芯片有关的新闻,2020 年我开始读到与芯片有关的书籍。第一本就是讲 ASML发展历史的《光刻巨人》,爱不释手,读了至少两遍。

构建:画树

但是,昨天我第三遍读完《芯片简史》。我发现,画知识树怎么会如此简单?!甚至只需要这样的一本书,就能帮我们搭建出芯片的知识树框架。

芯片知识树

把芯片这个领域的全部知识看作一棵知识树,树干是学科原理和基础理论,枝杈是重大的技术方向或领域,树叶则是具体的概念、技术和应用。

树干学科原理和基础理论量子物理学:描述微观粒子(如电子)的行为,是理解半导体原理的基石。半导体物理学:专注于半导体材料的电子特性和相互作用。半导体器件:基于半导体物理的原理,研究如二极管、晶体管等基本器件。集成电路:电子元件(如晶体管)的集成与微型化,是现代电子技术的核心。摩尔定律:预测集成电路上可容纳的晶体管数量每两年翻倍,驱动着技术的进步。

枝杈重大的技术方向或领域二极管:基本的电子元件,允许电流单向流动。MOS场效应晶体管:现代电子设备中最常用的晶体管类型。DRAM(动态随机存取存储器):一种常见的计算机内存类型。处理器:包括DSP(数字信号处理器)、CPU(中央处理单元)、MCU(微控制单元)。FPGA(现场可编程门阵列):一种可编程的集成电路。模拟芯片:处理模拟信号的电子元件。MEMS器件(微电机系统):微型机械和电子的组合。结型晶体管:一种晶体管,用于放大电子信号。IGBT(绝缘栅双极晶体管):用于电力系统的高效率开关。

我们平时接触到的与芯片有关的信息,往往都是树叶层面的。没有知识树,就是外行看热闹,每个字都认识,但实际上并不理解。这种情况下,我们就是个无聊的芯片看客,与热榜上追着娱乐明星吃瓜的看客本质没啥区别。

改变:有树之后

画芯片知识树,对普通人有何意义呢?真的有用吗?

解释世界

先谈对“解释世界”的影响:搭建出了思考框架、知识体系,能建立自己的世界观了。

世界观不是”观世界”即可

世界观不是”观世界”即可,无法通过走马观花旅游和碎片信息来构建,世界观是你在大脑中构建的完整的世界模型,是你的思考框架、知识体系。

很多人是没有世界观的,有的只是对这个世界的个人观点,而没有认识世界、解释世界的客观框架。实话说,大部分个人观点(我觉得我以为我认为,脱离成体系的知识、实践经验和深度思考)是没有价值的,只有对自己自娱自乐的价值,对他人没啥价值。

当一个人真正“懂”芯片之后,他会用不同的方式来看待:卡脖子、基础研究、弯道超车、科学研究......

他就能真正看懂与芯片有关的新闻......

武汉弘芯等一系列芯片大骗局,或许可以不发生......

解决问题

甚至,芯片知识树还可以指导实践。因为这些知识的启发,我认为下一代人的教育,他们的基础学科已经更我们的不一样的。我们的基础学科是数理化生,但是,AGI 时代的基础学科,更包括计算机、互联网以及 AI。

也就是说,我希望我的孩子,啥知识都可以不会,啥技能都可以不学,但是必须真正懂计算机、互联网和 AI。

除了数理化生,还必须要把计算机、互联网和 AI 作为基础学科,作为通识教育的一部分。

不是编程,coding级别的码农定位,而是真正理解原理,从最基础,从学科诞生,理解硬件、软件、互联网和 AI。

可见,芯片知识树,甚至在“解决问题”层面都与个人有关。

昨天,我和小树看到有孩子在准备跳舞演出,应该是某个机构办的某某杯才艺大赛。

我说:我不想让你学跳舞,不想让你参加这样的比赛。你知道为什么吗?因为我不想你学那种“取悦于人”的技能:你好不好,有没有价值,不应当由某个人某些人来决定的,而应该有更客观的标准。

我们有这个时间和精力,为什么不拿来读书,学数学,学科学,学计算机学编程学搭机器人?这些东西的价值不是某个人决定的,而是实实在在的。我不需要任何人的认可,我创造的价值是客观的,是无可否认的,不用受制于人[^纯个人观点,实际上选择才艺还是选择科学,完全是个人偏好,无好坏对错之分]。

7岁儿童的作品,海洋之城

(我想起小树7岁时我把她的作品拍照参加过“xx 颂”比赛。我非常震惊,这样的作品竟然一个奖项都得不到,连成百上千人都能得到的安慰奖都没有。这件事之后,我就有了这个想法:不要让孩子局限在评选标准主观的发展路线上。我的内心 OS:去NM的。我们是要当科学家的人。画画就是个人爱好,而且我们会一直画,会有自己的作品,但是,这不需要你来评定)。

到了小区门口,我掏出手机刷门禁。我说,你看,我不需要对着大门跳舞,我只要自己用刷卡器做一张ID卡贴到手机上,然后手机一刷就能开门。啥都可以不会不学,但是一定要学科学。

我不想让孩子学奴隶的知识,我不想他们去掌握奴隶的技能。我们想学习的是自由人的知识,我们想掌握的是自由人的技能。我们的学习,是要解释世界、解决问题,而不是去取悦别人,由别人去评价和规定。而个人知识树,就是这种自由人的基础。

100 年前,鲁迅家门口有两棵树,一棵是枣树,另一棵还是枣树。

现在,我希望每个人的脑子里和电脑里都有知识树,自己的个人知识树。

END -