地点

北京

杭州

成都

时间

3月23-25

4月27-29

6月18-20

内容模块

课程介绍

授课详细内容

模块一

人工智能概述

1.人工智能——世纪对弈

lAlphaGo围棋胜利的深度透视

lAlphaGo的身世

lAlphaGo的算法秘密以及三代AlphaGo技术对比

l对弈的意义

lAI发展的意义

2.人工智能发展概况

l什么是智能

l什么是人工智能 (AI)

lAI研究的方法和途径.

lAI的历史.

lＡI的研究特点

l人工智能学科体系

3.人工智能中人文趣事

l图灵（Turing）

赫伯特·西蒙（Herbert Simon）

模块二

人工智能基本原理及应用

1.人工智能数学知识

l线性代数

ü标量、向量、矩阵和张量

ü矩阵和向量相乘

ü单位矩阵和逆矩阵

ü线性相关和生成子空间

ü范数

ü特殊类型的矩阵和向量

ü特征分解

ü奇异值分解

l概率与信息论

ü随机变量

ü概率分布

ü离散型变量和概率质量函数

ü连续型变量和概率密度函数

ü边缘概率

ü条件概率

ü条件概率的链式法则

ü独立性和条件独立性

ü期望、方差和协方差

ü常用概率分布

üBernoulli分布

üMultinoulli分布

ü高斯分布

ü指数分布和Laplace分布

üDirac分布和经验分布

ü分布的混合

ü常用函数的有用性质

ü贝叶斯规则

ü连续型变量的技术细节

ü信息论

ü结构化概率模型

l数值计算

ü上溢和下溢

ü病态条件

ü基于梯度的优化方法 

ü梯度之上：Jacobian和Hessian矩阵

ü约束优化

2.人工智能基础知识

l知识表示的概念

l知识的特性

l知识的分类

l知识表示的方法

l推理的定义

lAgent

3.智能机器人

l专家系统

l服务机器人

l工业机器人

l达芬奇机器人

模块三

机器学习技术

1.学习算法

l任务T

l性能度量P

l经验E

l示例：线性回归

2.容量、过拟合和欠拟合

l没有免费午餐定理

l正则化

3.超参数和验证

l交叉验证

4.估计、偏差和方差

l点估计

l偏差

l方差和标准差

l衡偏差和方差以最小化均方误差

l一致性

5.大似然估计

l条件对数似然和均方误差

l大似然的性质

6.贝叶斯统计

l大后验(MAP)估计

7.监督学习算法

l概率监督学习

l支持向量机

l其他简单的监督学习算法.

8.无监督学习算法.

l主成分分析

lk-均值聚类

9.增强学习

10.随机梯度下降

11.构建机器学习算法

12.促使深度学习发展的挑战

l维数灾难

l局部不变性和平滑正则化

l流形学习

13.人工神经网络及其应用

l神经网络的发展简史

l神经元数学模型

l神经网络的分类

l神经网络的学习算法

l神经网络的特征

14.遗传算法及其应用

模块四

深度网络

四、深度网络

1.深度前馈网络

l实例：学习XOR

l基于梯度的学习

ü代价函数

ü输出单元

l隐藏单元

ü整流线性单元及其扩展

üLogistic sigmoid与双曲正切函数

ü其他隐藏单元

l架构设计

ü多能近似性质和深度

ü其他架构上的考虑

l反向传播和其他的微分算法.

ü计算图

ü微积分中的链式法则

ü递归地使用链式法则来实现反向传播

ü全连接MLP中的反向传播计算

ü符号到符号的导数

ü一般化的反向传播

ü实例：用于MLP训练的反向传播

ü复杂化

ü深度学习界以外的微分 

ü高阶微分

l历史小记

2.深度学习中的正则化

l参数范数惩罚

üL2参数正则化

ü正则化

l作为约束的范数惩罚

l正则化和欠约束问题

l数据集增强

l噪声鲁棒性

ü向输出目标注入噪声

l半监督学习

l多任务学习

l提前终止

l参数绑定和参数共享.

l卷积神经网络

l稀疏表示.

lBagging和其他集成方法

lDropout

l对抗训练.

l切面距离、正切传播和流形正切分类器

3.深度模型中的优化

l学习和纯优化有什么不同

ü经验风险*小化 

ü代理损失函数和提前终止

ü批量算法和小批量算法

l神经网络优化中的挑战

ü病态

4.深度学习常见网络

模块五

深度学习必备框架

1.  Tensorflow基础操作

2.  Tensorflow建立机器学习模型

3.  Tensorflow神经网络详解

4.  基于Tensorflow的CNN与RNN模型

5.  Caffe框架配置参数详解

6.  Caffe两种常用数据源制作

7.  Caffe技巧与应用

深度学习两大神器Caffe与Tensorflow实战，代码示例演示如何应用框架进行深度学习建模任务。

模块六

深度学习项目实战（一）

1.  验证码识别（基于Tensorflow）

2.  文本分类（基于Tensorflow）

3.  图像风格转换（基于Tensorflow）

模块七

深度学习项目实战（二）

4.  词向量模型Word2vec（基于Tensorflow）

5.  强化学习让AI自己玩游戏（基于Tensorflow）

6.  人脸检测（基于Caffe）

7.  人脸关键点定位（基于Caffe）

基于深度学习框架Tensorflow与Caffe从数据源制作开始进行数据预处理与网络模型训练，完整演示如何应用深度学习到实际任务中。