−
“-”
−
“-”
让
令
让
令
二
一个二
它已成功地用于预测分子如何相互作用,这能帮助制药公司设计新的药物{cite?}、搜索的亚原子粒子{cite?}和自动解析用于构建人脑三维图的显微镜图像{cite?}。
它已成功地用于预测分子如何相互作用从而帮助制药公司设计新的药物{cite?},搜索亚原子粒子{cite?},以及自动解析用于构建人脑三维图的显微镜图像{cite?}等。
未来几年充满了进一步提高深度学习并将它带到新领域的挑战和机遇
进一步提高深度学习并将它带到新的领域,未来几年充满了挑战和机遇
深度学习的普及性和实用性有了极大的发展
深度学习在它的普及性和实用性方面都有了极大的发展
与
和
吸收
汲取
深深地
深刻地
、
以及
识别对象
用于目标识别
进步
发展
。
等。
日益复杂
增加复杂性
处于另一个应用演进的浪潮之巅
使得另外一个应用--机器翻译--正处于革命性变化转型
这个
删掉”这个“
冠军
冠军级
用于
被用于
对象
目标
神经网络可以学习输出描述图像的整个字符序列
神经网络可以从一幅图像中学习输出描述它的整个字符序列
进步
最新结果
写书
写该书
能在这些比赛中取胜,
连续地赢得这些比赛。
但15.3\%的测试样例的正确类别不会出现在此列表中的前5
除了15.3%的测试样本,其它测试样本的正确类别都出现在此列表中的前5项里。
顺序列表
排序表
一个戏剧性时刻
戏剧性一幕
对象
目标
对象
目标
单一种类的对象
单类目标
的对象
目标
进行裁剪
裁剪照片
对象
目标
对象
目标
自那时以来
自此
裁剪得很合适且非常小的图像中的单个对象
裁剪紧凑且非常小的图像中的个体目标-
应用
实际问题中
应用
被应用
此外
而且
的
删掉”的“
到来
出现
即使现在从一个计算系统角度来看可能相当大的网络
即使现在的网络,从计算系统角度来看它可能相当大的,
实际上比相对原始的脊椎动物如青蛙的神经系统更小
但它比相对原始的脊椎动物如青蛙的神经系统都要小
比
其神经元比
现在回想起来
现在看来
更大
甚至要更大
生物神经元表示的函数可能比目前的人工神经元更复杂
生物神经元比现在的人工神经元可能表示更复杂的功能
直
要
允许
能力
引入隐藏单元
隐藏单元引入
少
小
级
级上
甚至
已经
生物神经元没有连接的特别密集
生物神经元不是特别稠密地连接在一起。
连接机制
连接主义
相对20世纪80年代较少的成功
自20世纪80年代以来,在享有相对小的成功之后,
成功
获得成功
将
它将
1000万
1000万个
可以实现可接受的性能
一般将达到可以接受的性能
5000
5000个
一般
删掉“一般”
的
删掉“的”
变得更容易集中管理这些记录
所以也就比较容易地集中并整理这些记录成适合于机器学习应用的数据集
显著
而显著
成功训练
获得成功
简化
即简化
这些算法训练
我们使用这些算法训练
努力解决的玩具问题
努力去解决玩具问题
但通常被视为是一种艺术而不是一种技术
但直到现在,相比如为一种技术,它通常更视为一种艺术
,这种观点持续到最近
删掉
为什么
但为什么
尽管
删掉“”尽管
是
仍是
能力
能力上
更古老
比较传统
注意
兴趣
能力
能力上
浪潮
发展浪潮
流行
删掉“流行”
函数
功能
意义
重要性上
把注意力集中
集中注意力
更深
比较深
可以
有能力
研究人员
研究者
CIFAR附属的其他研究小组
其他CIFAR附属研究小组
进行
来
训练
预训练
这个问题可能是单纯的因为计算复杂性太高
这可能仅仅由于其计算代价太高,
CIFAR NCAP研究计划具有多学科的性质,其中还包括人类神经科学家和计算机视觉专家
这个多学科的CIFAR NCAP研究计划还攘括了神经科学家、人类和计算机视觉专家
统一
联合
这个
改
引导
领导
持续
继续
学习机
方法
核
比如,核
做不切实际野心勃勃的主张
其做法野心勃勃但不切实际
一直
并一直
下降
衰退
反向传播算法的成功运用(训练具有内部表示的深度神经网络)和普及
成功地使用反向传播去训练具有内部表示的深度神经网以及反向传播算法的普及
主要
主导
运动
潮流
。
,
许多
多个
是
认为
上
在上
过程中
期间
运动
潮流
运动
思潮 或者 潮流
当网络将大量简单计算单元连接在一起时可以实现智能行为
当将大量简单计算单元网络连接在一起时可以实现智能行为
的
删掉“的”
认知科学是理解心智,并结合多个不同层次分析的跨学科方法
认知科学是理解心智的跨学科途径,即它融合多个不同的分析层次。
心智
“心智” 和 “意识” 哪个合适?
如何工作
如何真实工作的比较精确的模型
智能的
删掉
鲜活且发展良好的
确实存在的
但
然而
人们
但大家
(如核机器或贝叶斯统计工作的研究人员)
(如核方法或贝叶斯统计)的研究者更可能地
研究人员
研究者
更可能
删掉“更可能”
虽然
改为“的确,”
但我们还没有足够地了解生物学习的神经科学,因此在训练这些架构时,不能提供给我们很多关于\emph{学习算法}的指导。
但我们对用于神经科学的生物学习还没有足够多的了解,也就不能为训练这些架构用的\emph{学习算法}提供太多的指导。
函数
功能
它
但它
基于许多观点
通过吸收来自不同观点的思想而形成,
基于称为
是基于一个称为
,我们将会在\sec?看到
(我们将会在第9.10节看到)
后来
它后来
深度学习研究小组
对于深度学习研究团体来说
的
删掉“的”
更加分散
是比较分散的
多数哺乳动物大脑的可能使用单一的算法解决大部分大脑可以解决的不同任务
大多数哺乳动物的大脑可能使用单一的算法就可以去解决其大脑解决的大部分不同任务
表明
提示
区域
区域去
甚至连大脑的最简单、最深入研究的部分我们都还远远没有理解
所以我们甚至连大脑的最简单、最深入研究的部分都还远远没有理解
同时
同时去
需要
应该需要
对
对被
指导
指导去使用它
主要导向
主要指导
这是神经网络热潮的第一次大幅下降
这导致了神经网络热潮的第一次大消退
在线性模型中观察到这些缺陷的批评者开始反对受生物学启发的学习
观察到线性模型这个缺陷的批评者对受生物学启发的学习普遍地产生了抵触
,
“,”改为“和”
,f
“,” 改为 “和”
XOR
异或(XOR)
基于感知机和ADALINE中使用
基于被感知机和ADALINE使用
称为
被称为
还
它还
,
删掉“,”
了
删掉“了”
来
可以
期望的类别定义
类别的期望定义
类型
类别
测试
检验
是正还是负
改为“正负”
这第一次神经网络研究的浪潮被称为控制论,如\fig?所示。
如\fig?所示,这第一波神经网络研究浪潮被称为控制论。
这第一次神经网络研究的浪潮
这第一波神经网络研究浪潮
将
改为“希望”
启发的
删掉“的”
组合
复合
的
删掉“的”
能阐明这些基本的科学问题也将会很有用
能让人们对这些基本的科学问题有进一步的认识也将会很有用
原则
原理
逆向
逆向工程化
因此从概念上讲
因此,概念上,
的可能性
是可能的
这个例子
作为例子
的
删掉“的”
它们
但它们
此时深度学习模型对应的观点是他们设计的系统是受生物大脑(无论人类大脑或其他动物的大脑)所启发。
彼时,深度学习模型被认为是受生物大脑(无论人类大脑或其他动物的大脑)所启发而设计出来的系统。
已消逝的深度学习的名称之一——人工神经网络
深度学习以人工神经网络之名而淡去
现在认识
今天知道
旨在
是旨在
这在\fig?中定量给出。
\fig?给出了定量的展示。
已经有三次深度学习的发展浪潮
深度学习已经经历了三次发展浪潮
讲述整个综合性的深度学习历史
全面地讲述深度学习的历史
反映
它反映
并为一本书提及关于一个新兴领域的”历史”而感到惊讶
并对在一本书中看到关于一个新兴领域”历史”的提及而感到惊讶
介绍被广泛认为是深度学习未来研究重点的但更具猜测性的想法
讨论某些具有展望性的想法,它们被广泛地认为是深度学习的未来研究重点。
适应
服务
但要迅速在他们的产品或平台中使用深度学习的软件工程师
但希望能快速地掌握这方面知识并在他们的产品或平台中使用深度学习的软件工程师。
一个目标群体
一类受众对象
一个目标受众
一类受众对象
基于两个主要目标受众
为两类受众对象而写的
AI
通向AI
可行
切实可行
允许
能够使
个
删掉“个”
它
系统
当
但当
一个AI系统观察到其中一只眼睛在阴影中的脸部图像,最初可能只看到一只眼睛。
一个观察其中一只眼睛在阴影中的脸部图像的AI系统最初可能只看到一只眼睛。
后进一步
后可以进一步
如何彼此
彼此如何
不是
它不是
这
其深度
,
;
第一
第一个
测量
度量