我看见的世界

逐梦之旅 #

她教导我，我的努力不是为了让老师满意，也不是为了符合某种意识形态，甚至不是为了迎合某种虚无缥缈的规则。我的努力只是为了自己。

在我上小学的时候，老师通知每个孩子准备统一的白色纽扣衬衫，参加即将举行的全校运动会。父亲仔细读完参会要求，脸上露出了顽皮的笑容，确保自己会一丝不苟地执行每条指示。但等到运动会那一天，卷发便不再是我唯一的标志——在一片白衬衫的海洋中，唯有我的衬衫上是彩虹色的纽扣。

1989年，一切都变了。

但不管怎样，我还有物理学。至于剩下的，就听天由命吧。

鸿沟渐窄 #

基于规则的人工智能是指从零开始构建具有智能行为能力的完整体，而机器学习指的是允许智能体自主发展。

大脑在最初在子宫内形成后的很长时间里，才通过学习形成了（或者至少是逐渐完善了）这些网络结构。这就是为什么尽管我们的灰质在解剖学上看起来并无二致，但每个人的个性、技能和记忆都是独一无二的。

休伯尔和威塞尔的研究发现，感知不是发生在单个神经元层次上，而是通过由多层神经元组成的层次结构进行的。这个层次结构从对表面细节的识别开始，最终到达复杂的高级意识。例如，第一层神经元可能会注意到一些细微的视觉特征，如特定角度的边缘、独特的纹理，或一抹绚丽的色彩。每一层神经元都聚焦在整体场景中的一个狭窄区域，称为“感受野”(receptive field)。这些视觉细节单独来看并没有太大意义，但当它们传递到下一层时，就会整合成为更复杂的形状和特征，覆盖更广阔的感受野，就像是拼图拼接在一起，展现出更大的图像片段。最终，当这些逐步整合的细节被传递到最后一层时，我们就能感知到面孔、物体、地点等有意义的事物。由于大脑的网络结构允许无数步骤同时进行，我们的感知体验是连续不断、充满活力的。休伯尔和威塞尔的研究成果改变了我们对感官知觉的理解，二人因此获得了1981年的诺贝尔生理学或医学奖。

作为移民，我们很容易认为自己遇到的所有问题都是由外部世界造成的。但实际上，我们最大的挑战往往源自内心。无论是在中国还是地球上的任何一个家庭，都是如此。

在学习方面，我还是一如既往地专注于数学和物理学——它们首先是我的激情所在，其次才是大学先修课程。

北极星 #

我与彼得罗和克里斯托夫相处的时间越长，就越欣赏他们的冒险精神，这也是他们作为学者最明显的特征。虽然他们的背景分别是物理学和工程学，但两人都对心理学、认知科学和神经科学等领域充满了热爱。他们和系里的其他人一样经常阅读计算机科学期刊，但他们还会专注阅读《心理学评论》《美国国家科学院院刊》和享有盛誉的《自然》等刊物。

实验验证 #

所以，在2012年年初的某一周，当世界各地数以百万计的图形处理器忙于渲染抖动的机枪、成群结队的僵尸和弹片飞溅的爆炸时，有两台图形处理器却正在多伦多的某个地方将一种新型神经网络从理论变为现实。

万物以外是什么 #

这项工作提醒我们，尽管我们的研究主要集中在视觉方面，但语言描述也是不可或缺的一部分。毕竟，没有WordNet，就不可能有ImageNet。WordNet为每个类别提供了框架，使它们不仅拥有自己的标签，还能在相互连接的思维树中找到自己的位置。如果没有心理学家埃莉诺·罗施(Eleanor Rosch)的工作，很难想象WordNet会是什么样子。罗施在范畴及其在思维中的作用方面做出了重大贡献，为我们对这一概念的现代理解提供了关键帮助。她在全球开展了一系列实验，主要研究人类是如何把世界概念化的，研究对象既有加州大学伯克利分校的研究生，也有巴布亚新几内亚的高原部落居民。虽然对范畴的研究可以追溯到亚里士多德，但罗施的实验方法将简洁清晰的逻辑与经验数据相结合，在20世纪70年代掀起了范畴研究的热潮。在发表于1975年的开创性论文中，罗施提出了一组更精确的词语来描述“理解层级”。所谓的“理解层级”，是指从“一般”到“特殊”的光谱，无数概念都可以在这个光谱上找到自己的位置。以邓嘉的动物分类“鸭子”为例。“鸭子”存在于一个特定的细节层级上，与“鸭科”（包括鸭、鹅和天鹅的生物科）“动物”“生物”以及最终的“事物”等浅层分类相比（罗施称之为“上义词”），要理解“鸭子”这一概念，需要更多信息；但与“野鸭”“鸳鸯”“环纹凫”等深层分类相比（罗施称之为“下义词”），理解“鸭子”所需的信息则相对较少。从整体上看，包括ImageNet在内的类似层级结构就像一棵树。向树根移动，意味着更低的特异性和差异性，而向树叶（每根树枝的最远端）移动，则意味着更高的特异性和差异性。邓嘉和乔恩将这种层级原则引入了计算机视觉领域。如果分类器有充分的理由相信它观察到的可能是鸭子或鳄鱼，却没有足够的信息来判断究竟是哪一种时，明智之举就是将其上移一级，选择概念更宽泛的上义词，以牺牲较深一级的特定性为代价，换取较浅一级的安全性。

细粒度分类课题研究的是细节：识别的对象越相似，所需要的细节就越细微。乍一看，我们的研究只是从区分明显的差异延伸到了解析不太明显的差异，但这一过程却向我们传达了更加震撼和富有启发性的信息：即使是我们最大规模的设计，也还是想得过于狭隘了。

然而，科学最伟大的优点之一，就是能够将让人谦卑的一刻重塑为充满可能性的一刻。

我们精心挑选散布在互联网上的资料，不断扩充汽车模型的图片库。我想象着，如果要跟十几岁时的自己解释这种烦琐的工作跟科学有什么关系，可能很难说清楚。当然，具体的工作细节并不重要；它只是再次证明了我们实验室的核心价值：永远尊重世界的复杂性，并渴望不惜一切代价对其进行探索。我们感觉自己就像艺术爱好者在导游的带领下参观博物馆，每一个新的展品都在挑战我们，同时也激起了我们对周围无限细节的敬畏之情。我们能如愿以偿、得到回报吗？我们没有浪费时间去担心这个问题，而是选择拥抱世界，接受世界的真实面貌，不妥协、不简化——仅仅是这一点，就让我们觉得这是一项值得为之献身的使命。无论我们了解世界的窗口是汽车模型、鸟类物种，还是其他事物（也许我们的下一个项目将探索各种铺设道路、爬行动物的鳞片、小提琴的饰面），每一步都让人感觉距离用全新的眼光看待现实的时刻更近了一点。无论我们发现了什么，我都相信这趟旅程是值得的。

我们花了很多精力来教机器对物体进行分类，但分类所依靠的似乎不仅仅是视觉敏锐度。

人类的感知力虽然有种种局限，但与机器截然相反。我们从整体上看待世界，不仅能识别世界的内容，更可以进一步理解不同事物之间的关系、意义、过去和未来。这就是“要点”。

学生们往往会疯狂地专注于自己的模型是否有效，以至“模型如何运作”的问题被抛到了一边。

似易实难 #

“没错，察觉就是关键所在。在整个医疗领域，察觉是最宝贵的资源，也是我们没有办法扩展的资源。”

我和阿尼设想了一种旨在用智能且可靠的感知来填充空间的技术，而其最大的特点就是不会引人注目。与人类监察员不同，我们的技术将悄然融入背景之中，默默监视，只有在察觉到危险时才会发出警报。我们将其称为“环境智能”(ambient intelligence)。

今天，科技在维持我们的生命方面发挥着重要的作用，我很感激，但毫不夸张地说，我和母亲能熬过这一切，真正的原因是人，是像你们这样的人。

这是计算机科学学位无法提供的教育场景：病房里的喧嚣、不确定的恳求眼神、对任何形式安慰的迫切渴望，酸痛的脚和破旧的网球鞋，休息室里冷冰冰的比萨，一小时又一小时的煎熬。

但我现在明白，科学并不是正确的起点。如果想让人工智能帮助人类，那么我们必须从人类自身开始思考。我随即做出决定。从那天起，任何要加入我们团队的学生，都必须先拥有我刚刚拥有的体验，否则一行代码都不可以写。跟班学习将成为每位新成员的入门仪式，没有商量的余地。

无人可控 #

在初始阶段，网络深度的增加会提高图像识别准确率，但很快就会到达临界点，此后就是收益递减。我们怀揣着远大抱负，构建的神经网络越来越大，却在不经意间将网络变成了迷宫。过多的分层会破坏信号传递，导致训练过程停滞不前，使系统失去效果。

2015年，由微软的年轻研究员何恺明带头研发的深度残差网络(Deep Residual Network, ResNet)再次改变了比赛格局。ResNet达到了惊人的152层，但对网络架构进行了扭曲，允许在训练阶段绕过其中的某些层，使得不同的图像对网络中较小的子区域产生影响。

我经常要求他们，在进行研究的同时，务必为人工智能科学赖以建立的基础文献留出空间。时代不断加速发展，每个人的注意力都集中在了更热门的信息来源上，而传统文献却一直被忽视。我注意到了这个问题，起初感到恼火，后来又心生担忧。 “请大家不要每天只从arXiv下载最新的预印本作品了。去读一读拉塞尔和诺维格的著作，去读明斯基、麦卡锡和威诺格拉德的书，读哈特利和西塞曼的作品，读一读帕尔默写的东西。不要因为这些材料距离现在时间久就忽略它们。我们就是要多读一些以前的东西，他们的理念经得起时间的考验，依然非常重要。”

下一颗北极星 #

对于在场的许多人来说，今天是他们第一次接触到我钟爱已久的思想，而我也有幸成为传递者。跟随鲍勃（当时我还称他为萨贝拉先生）学习的经历依然历历在目，它提醒着我，一位老师可以在年轻人的生命中留下无比深刻的烙印。我们被赋予了分享一种特殊喜悦的权利：学习知识的快感、新的可能性带来的冲击。当然，这种感觉不会持久，因为学习的喜悦最终会因为职业发展、出版要求、求职面试，甚至风险投资和收入预测而变得复杂。但在眼下的时光里，思想才是唯一重要的事。

书评 #

李飞飞在计算机视觉领域的贡献主要在数据集ImageNet上，促进了深度学习的快速发展，离不开她本人卓越的天赋、自由的学术氛围和教师的培养。如果没有1989年的变故和国民党的家庭背景，在国内成长的李飞飞就很难成长为一名科学家。创新精神是无法在爱国主义教育和试卷中培养起来的，我们国家的教育工作还需要努力。李飞飞的卓越功绩无可置疑，但是这本书显然不够诚实和客观，书中处处可见对美国的粉饰，对自己女性、移民、亚裔、贫穷、家人的不满和哭诉。言语间充斥着高傲和说教。对专业知识的解释一笔带过或含糊其辞（不知是文笔的不足还是出版社的要求，以后人物传记还是少看自传吧）。这本书依旧是商业化的产物，刻意迎合美国价值观，拿来当鸡汤看看还行，建议略读。