Keras之父:人脑耗能低于灯泡,为何「吊打」所有AI?
新智元报道
编辑:David Joey 如願
【新智元导读】Keras之父发推:人脑运行效率很低,900亿神经元,同时干活的还不到10亿,不到2%。你怎么看?
近日,谷歌著名研究员、Keras框架创始人Francois Chollet在推特上发表了关于人脑运行效率不高的看法,引发网友和研究人员的热烈讨论。
他表示,人脑的运行功率大概只有15w,还比不上普通的灯泡。虽然有900亿个神经元,但同时激活的不超过10亿个,不到2%。
因此从全局来看,人的大脑的运作效率的很低的。
Francois Chollet是Tensorflow的知名贡献者,是Wysp(主要是为艺术家提供学习绘画的工具)的创建者和维护者,谷歌高级软件工程师,Keras深度学习框架创始人。
他撰写的两本深度学习的教材:「Python深度学习」和「R深度学习」是深度学习入门的必读书,闻名世界。
这样一位大家,浑身还极具艺术气息。在他的主页上发布了很多古典音乐的片段,小编听完后的感受整体评价:舒心,洗掉了心浮气躁的不安。
作为AI圈出名的「社交活跃分子」,他的Twitter主页一天之内有时候可以发布十余条动态。
比如这次的主题就是:人脑的效率和利用率。
Chollet表示:
如果以「规模」的角度来看,人的大脑运行频率大概只有8-35赫兹,功率只有15瓦。虽然大脑内有超过900亿个神经元,但在任何特定时候,通常只有10亿个神经元处于活跃状态。
这样看来,我们的大脑是运行非常缓慢的,一直在用很少的资源,做很多的事。
大脑的能耗类似于一个LED节能灯,功率只有白炽灯的1/5。
解决一个平均难度的ARC任务所涉及的神经元的数量可能是几十亿个,在几秒钟的时间内。你最多可以发生数千亿次的放电事件,能耗不到一卡路里。
大脑在处理信息时,很多时候是将视觉信号转化为符号表示,且实现需要处理的符号数量是最小的,目前没有任何机器可以做到这一点。
迄今为止最高效的ARC求解器,必须查看数以百万计的不同程序以找到候选解决方案。大脑不会这样做,因为没有足够的资源来考虑这么多的可能性,更不用说模拟了。
另外,大部分的大脑活动都是无意识的,与外部世界的互动有关。有意识的推理部分只是冰山一角。然而,后者却具有令人难以置信的力量。
Chollet上面提到的「ARC求解器」,实际上是他2019年提出的一套关于衡量智能水平的新基准。
目前,AI界仍然倾向于通过比较AI和人类在特定任务(如下棋和打游戏)中表现出的技能来确定智能的基准。
Chollet认为,仅仅衡量在任何特定任务中的技能并不能衡量智能,因为这种方式在很大程度上受到先验知识和经验的影响。
他提出了一个基于算法信息理论的智能的正式定义,将智能描述为「获取技能的效率」,并强调了范围、泛化难度、先验和经验等概念。
这个基准称为抽象与推理语料库(ARC),建立在一套明确的、旨在尽可能接近人类先天性的预设的基础上。可以用来测量类似于人类形式的智能,并能够在AI系统和人类之间进行公平比较。
另外,对于目前越来越大的模型,和越来越多的参数,Chollet认为,深度学习模型中的参数数量和大脑中的神经元数量之间没有直接关系。
但他认为,模型参数数量本身是一个好的量度,只是要和其他生物学上的指标联系起来。
比如对于大脑,大概可以使用「神经放电次数」近似等于「开关事件数」,看看任务运行期间总共发生了多少次放电事件,这样的联系可能更靠谱一些。
这个关于大脑运行效率和利用率的话题,也引起了网友的热议。
人脑只用了10%?是我们了解太少
提起大脑的利用效率问题,其实一直有个玄而又玄的说法,说我们的大脑,其实只利用了10%。
这个说法由来已久,而且流传甚广。根据2013年的一项调查,有65%的美国人相信这个观点。
到底对不对呢?
《科学美国人》撰文指出,关于这个问题的争论,最早源自美国心理学家William James,他在The Energies of Men一书中提出,我们只利用了人体的精神和身体资源的很小一部分。
约翰霍普金斯大学医学院的神经学家Barry Gordon认为,这个观点是很可笑的。
戈登说,这种观点源自人们对自己大脑的看法:他们将自己在某方面的缺点,视为他们大脑中存在未开发的灰质的证据。这是一个错误的假设。
正确的说法是,在任何人的生命中的某些时刻,比如只是在休息和思考时,我们可能只使用了10% 的大脑。
事实上,我们几乎使用了大脑的每个部分,大部分大脑几乎一直处于活跃状态。
虽然,在任何特定时刻,大脑的所有区域不会同时放电,但目前研究已经证明,跟肌肉一样,大脑的大多数区域在24小时内都会或多或少地进入持续活跃的状态。
梅奥诊所的神经学家约翰·亨利表示:「研究表明,仅在一天内看,人的大脑的每个区域都会被激活。」
举个简单的例子,比如早上倒一杯咖啡,在走向咖啡壶,伸手去拿,然后将咖啡倒入马克杯的过程中,枕叶和顶叶、运动感觉和感觉运动皮层、基底神经节、小脑和额叶都会被激活。
在短短几秒钟内,就发生了几乎覆盖整个大脑的神经活动。
目前,人类尚不清楚大脑不同区域的神经元簇如何协作形成意识。另一个谜团是,在所有大脑细胞中,只有 10% 是神经元;另外 90% 是神经胶质细胞,它们封装并协助神经元,但其功能在很大程度上仍然未知。
所以结论是:并不是我们只使用了 10% 的大脑,而是我们只了解了它大约10%的功能。
参考资料:
https://www.scientificamerican.com/article/do-people-only-use-10-percent-of-their-brains/
https://twitter.com/fchollet/status/1536486937288376320
https://threadreaderapp.com/thread/1536486937288376320?refresh=1655275605
https://fchollet.com/
页:
[1]