- 高等教育出版社
- 9787040643800
- 1版
- 47264230-5
- 16开
- 450
- 工学
- 自动化类
- 自动化、电气类
- 本科 研究生及以上
内容简介
本书对机器学习与系统辨识的基础理论和前沿知识进行了梳理,使自动控制领域的学者和工程师既能够深刻理解机器学习和系统辨识的有关内容，又能够了解它们的异同和互补关系，为进一步科研和工程实践提供有力支撑。本书分为两篇，共10章。第一篇为机器学习部分，讲解经典的监督学习方法、无监督学习方法和集成学习方法，以及较为前沿的深度学习方法，使学生能够掌握机器学习的基础理论和前沿知识。第二篇为系统辨识部分，聚焦线性系统辨识、非线性系统辨识、盲系统辨识、图模型辨识及闭环系统辨识等内容。
本书可作为高等学校自动化类、机械类、计算机类、电气类等相关专业本科生、研究生的教材，也可供从事机器人工程、人工智能相关工作的社会学习者参考。
目录
目录
前辅文
第1章 绪论
1.1 数据驱动建模
1.2 机器学习
1.2.1 机器学习概念
1.2.2 机器学习方法
1.2.3 机器学习分类
1.3 系统辨识
1.3.1 系统辨识原理
1.3.2 系统辨识步骤
1.3.3 系统辨识分类
1.4 应用例子
1.5 内容安排
思考题
第一篇 机器学习
第2章 监督学习方法
2.1 最小二乘法
2.1.1 线性回归
2.1.2 逻辑斯谛回归
2.1.3 均方误差估计
2.2 支持向量机
2.2.1 标准支持向量机
2.2.2 软间隔与正则化
2.2.3 支持向量回归
2.3 核方法与正则化
2.3.1 广义线性模型
2.3.2 核支持向量机
2.3.3 正则化理论
2.4 神经网络
2.4.1 感知器
2.4.2 神经网络结构
2.4.3 反向传播算法
2.5 复合学习方法
2.5.1 集成学习
2.5.2 AdaBoost算法
2.5.3 分类树和逻辑斯谛回归
2.5.4 随机森林
2.6 统计学习方法
2.6.1 极大似然估计法
2.6.2 最大后验估计法
2.6.3 贝叶斯估计方法
思考题
第3章 无监督学习方法
3.1 近邻测度和聚类准则
3.2 聚类方法
3.2.1 层次聚类算法
3.2.2 最优化方法聚类算法
3.2.3 图谱聚类算法
3.3 特征降维
3.3.1 线性判别分析
3.3.2 主成分分析
3.3.3 独立成分分析
3.3.4 多维尺度缩放
3.3.5 拉普拉斯本征映射
3.3.6 局部线性嵌入
3.4 无监督概率模型估计
3.4.1 期望最大化算法
3.4.2 混合高斯分布估计方法
3.4.3 因子分析方法
3.4.4 概率矩阵分解方法
思考题
第4章 深度学习方法
4.1 深度卷积神经网络
4.1.1 卷积神经网络
4.1.2 参数学习
4.1.3 常见卷积神经网络
4.2 循环神经网络
4.2.1 循环网络
4.2.2 记忆网络和注意力机制
4.3 图神经网络
4.3.1 图神经网络的基本框架
4.3.2 图滤波器
4.3.3 图池化
4.3.4 图神经网络学习
4.4 深度生成网络
4.4.1 变分自编码器
4.4.2 生成对抗网络
思考题
第5章 强化学习
5.1 马尔科夫决策
5.1.1 策略迭代学习
5.1.2 值迭代学习
5.2 无模型强化学习
5.2.1 无模型的值函数学习方法
5.2.2 无模型的策略函数学习方法
5.3 逆强化学习
5.3.1 基于最大边际的逆强化学习
5.3.2 基于最大熵的逆强化学习
思考题
第二篇 系统辨识
第6章 线性系统辨识
6.1 预报误差辨识方法
6.1.1 实验数据与辨识准则
6.1.2 辨识方法与收敛性
6.1.3 回归变量的选择
6.2 子空间辨识方法
6.2.1 马尔科夫参数最小实现
6.2.2 参数辨识的子空间方法
6.3 非参数化辨识
6.3.1 再生核希尔伯特空间
6.3.2 正则化系统辨识
6.3.3 广义正交基函数的系统辨识
思考题
第7章 非线性系统辨识
7.1 非线性系统模型描述
7.1.1 非线性模块化系统
7.1.2 非线性函数回归模型
7.1.3 非线性状态空间模型
7.1.4 非线性黑箱模型
7.2 非线性参数化辨识
7.3 非线性核函数辨识
7.3.1 正则化辨识
7.3.2 核函数调参
7.4 非线性滤波辨识
7.4.1 卡尔曼滤波
7.4.2 扩展卡尔曼滤波
7.4.3 正则化滤波与辨识
7.5 混杂系统模型辨识
7.5.1 切换线性模型辨识
7.5.2 分段光滑模型辨识
7.5.3 非线性混杂模型辨识
思考题
第8章 盲系统辨识
8.1 SIMO系统盲辨识
8.1.1 FIR传递函数盲辨识
8.1.2 系统输入盲辨识
8.2 MIMO系统盲辨识
8.2.1 可辨识性分析
8.2.2 子空间辨识方法
8.3 结构化状态空间模型盲辨识
8.3.1 可辨识性分析
8.3.2 子空间辨识方法
思考题
第9章 图模型辨识
9.1 高斯图模型基础
9.2 静态高斯图模型辨识
9.2.1 基于图结构的参数估计
9.2.2 基于数据的图结构辨识
9.3 自回归图模型辨识
9.3.1 自回归模型的极大似然估计
9.3.2 自回归图模型的极大似然估计
9.3.3 严格凸松弛和稳定性
9.4 含隐变量图模型辨识
思考题
第10章 闭环系统辨识
10.1 闭环系统模型
10.2 辅助变量辨识方法
10.3 直接辨识方法
10.4 间接辨识方法
10.5 联合辨识方法
10.6 互质分解辨识方法
思考题
附录A 概率理论
A.1 随机变量与概率分布
A.2 随机向量与概率分布
A.3 共轭先验分布
A.4 多维高斯分布
A.5 信息和熵
附录B 近似推理方法
B.1 确定性近似推理
B.2 采样近似推理
附录C 矩阵理论
C.1 常用矩阵函数
C.2 特征值和特征向量
C.3 向量和矩阵范数
C.4 矩阵微积分
C.5 矩阵奇异值分解
附录D 优化理论
D.1 无约束优化
D.2 等式约束优化
D.3 不等式约束优化
D.4 优化算法
附录E 线性系统理论
E.1 离散信号变换
E.2 线性系统及其性质
E.3 随机过程
参考文献
前辅文
第1章 绪论
1.1 数据驱动建模
1.2 机器学习
1.2.1 机器学习概念
1.2.2 机器学习方法
1.2.3 机器学习分类
1.3 系统辨识
1.3.1 系统辨识原理
1.3.2 系统辨识步骤
1.3.3 系统辨识分类
1.4 应用例子
1.5 内容安排
思考题
第一篇 机器学习
第2章 监督学习方法
2.1 最小二乘法
2.1.1 线性回归
2.1.2 逻辑斯谛回归
2.1.3 均方误差估计
2.2 支持向量机
2.2.1 标准支持向量机
2.2.2 软间隔与正则化
2.2.3 支持向量回归
2.3 核方法与正则化
2.3.1 广义线性模型
2.3.2 核支持向量机
2.3.3 正则化理论
2.4 神经网络
2.4.1 感知器
2.4.2 神经网络结构
2.4.3 反向传播算法
2.5 复合学习方法
2.5.1 集成学习
2.5.2 AdaBoost算法
2.5.3 分类树和逻辑斯谛回归
2.5.4 随机森林
2.6 统计学习方法
2.6.1 极大似然估计法
2.6.2 最大后验估计法
2.6.3 贝叶斯估计方法
思考题
第3章 无监督学习方法
3.1 近邻测度和聚类准则
3.2 聚类方法
3.2.1 层次聚类算法
3.2.2 最优化方法聚类算法
3.2.3 图谱聚类算法
3.3 特征降维
3.3.1 线性判别分析
3.3.2 主成分分析
3.3.3 独立成分分析
3.3.4 多维尺度缩放
3.3.5 拉普拉斯本征映射
3.3.6 局部线性嵌入
3.4 无监督概率模型估计
3.4.1 期望最大化算法
3.4.2 混合高斯分布估计方法
3.4.3 因子分析方法
3.4.4 概率矩阵分解方法
思考题
第4章 深度学习方法
4.1 深度卷积神经网络
4.1.1 卷积神经网络
4.1.2 参数学习
4.1.3 常见卷积神经网络
4.2 循环神经网络
4.2.1 循环网络
4.2.2 记忆网络和注意力机制
4.3 图神经网络
4.3.1 图神经网络的基本框架
4.3.2 图滤波器
4.3.3 图池化
4.3.4 图神经网络学习
4.4 深度生成网络
4.4.1 变分自编码器
4.4.2 生成对抗网络
思考题
第5章 强化学习
5.1 马尔科夫决策
5.1.1 策略迭代学习
5.1.2 值迭代学习
5.2 无模型强化学习
5.2.1 无模型的值函数学习方法
5.2.2 无模型的策略函数学习方法
5.3 逆强化学习
5.3.1 基于最大边际的逆强化学习
5.3.2 基于最大熵的逆强化学习
思考题
第二篇 系统辨识
第6章 线性系统辨识
6.1 预报误差辨识方法
6.1.1 实验数据与辨识准则
6.1.2 辨识方法与收敛性
6.1.3 回归变量的选择
6.2 子空间辨识方法
6.2.1 马尔科夫参数最小实现
6.2.2 参数辨识的子空间方法
6.3 非参数化辨识
6.3.1 再生核希尔伯特空间
6.3.2 正则化系统辨识
6.3.3 广义正交基函数的系统辨识
思考题
第7章 非线性系统辨识
7.1 非线性系统模型描述
7.1.1 非线性模块化系统
7.1.2 非线性函数回归模型
7.1.3 非线性状态空间模型
7.1.4 非线性黑箱模型
7.2 非线性参数化辨识
7.3 非线性核函数辨识
7.3.1 正则化辨识
7.3.2 核函数调参
7.4 非线性滤波辨识
7.4.1 卡尔曼滤波
7.4.2 扩展卡尔曼滤波
7.4.3 正则化滤波与辨识
7.5 混杂系统模型辨识
7.5.1 切换线性模型辨识
7.5.2 分段光滑模型辨识
7.5.3 非线性混杂模型辨识
思考题
第8章 盲系统辨识
8.1 SIMO系统盲辨识
8.1.1 FIR传递函数盲辨识
8.1.2 系统输入盲辨识
8.2 MIMO系统盲辨识
8.2.1 可辨识性分析
8.2.2 子空间辨识方法
8.3 结构化状态空间模型盲辨识
8.3.1 可辨识性分析
8.3.2 子空间辨识方法
思考题
第9章 图模型辨识
9.1 高斯图模型基础
9.2 静态高斯图模型辨识
9.2.1 基于图结构的参数估计
9.2.2 基于数据的图结构辨识
9.3 自回归图模型辨识
9.3.1 自回归模型的极大似然估计
9.3.2 自回归图模型的极大似然估计
9.3.3 严格凸松弛和稳定性
9.4 含隐变量图模型辨识
思考题
第10章 闭环系统辨识
10.1 闭环系统模型
10.2 辅助变量辨识方法
10.3 直接辨识方法
10.4 间接辨识方法
10.5 联合辨识方法
10.6 互质分解辨识方法
思考题
附录A 概率理论
A.1 随机变量与概率分布
A.2 随机向量与概率分布
A.3 共轭先验分布
A.4 多维高斯分布
A.5 信息和熵
附录B 近似推理方法
B.1 确定性近似推理
B.2 采样近似推理
附录C 矩阵理论
C.1 常用矩阵函数
C.2 特征值和特征向量
C.3 向量和矩阵范数
C.4 矩阵微积分
C.5 矩阵奇异值分解
附录D 优化理论
D.1 无约束优化
D.2 等式约束优化
D.3 不等式约束优化
D.4 优化算法
附录E 线性系统理论
E.1 离散信号变换
E.2 线性系统及其性质
E.3 随机过程
参考文献
前辅文
第1章 绪论
1.1 数据驱动建模
1.2 机器学习
1.2.1 机器学习概念
1.2.2 机器学习方法
1.2.3 机器学习分类
1.3 系统辨识
1.3.1 系统辨识原理
1.3.2 系统辨识步骤
1.3.3 系统辨识分类
1.4 应用例子
1.5 内容安排
思考题
第一篇 机器学习
第2章 监督学习方法
2.1 最小二乘法
2.1.1 线性回归
2.1.2 逻辑斯谛回归
2.1.3 均方误差估计
2.2 支持向量机
2.2.1 标准支持向量机
2.2.2 软间隔与正则化
2.2.3 支持向量回归
2.3 核方法与正则化
2.3.1 广义线性模型
2.3.2 核支持向量机
2.3.3 正则化理论
2.4 神经网络
2.4.1 感知器
2.4.2 神经网络结构
2.4.3 反向传播算法
2.5 复合学习方法
2.5.1 集成学习
2.5.2 AdaBoost算法
2.5.3 分类树和逻辑斯谛回归
2.5.4 随机森林
2.6 统计学习方法
2.6.1 极大似然估计法
2.6.2 最大后验估计法
2.6.3 贝叶斯估计方法
思考题
第3章 无监督学习方法
3.1 近邻测度和聚类准则
3.2 聚类方法
3.2.1 层次聚类算法
3.2.2 最优化方法聚类算法
3.2.3 图谱聚类算法
3.3 特征降维
3.3.1 线性判别分析
3.3.2 主成分分析
3.3.3 独立成分分析
3.3.4 多维尺度缩放
3.3.5 拉普拉斯本征映射
3.3.6 局部线性嵌入
3.4 无监督概率模型估计
3.4.1 期望最大化算法
3.4.2 混合高斯分布估计方法
3.4.3 因子分析方法
3.4.4 概率矩阵分解方法
思考题
第4章 深度学习方法
4.1 深度卷积神经网络
4.1.1 卷积神经网络
4.1.2 参数学习
4.1.3 常见卷积神经网络
4.2 循环神经网络
4.2.1 循环网络
4.2.2 记忆网络和注意力机制
4.3 图神经网络
4.3.1 图神经网络的基本框架
4.3.2 图滤波器
4.3.3 图池化
4.3.4 图神经网络学习
4.4 深度生成网络
4.4.1 变分自编码器
4.4.2 生成对抗网络
思考题
第5章 强化学习
5.1 马尔科夫决策
5.1.1 策略迭代学习
5.1.2 值迭代学习
5.2 无模型强化学习
5.2.1 无模型的值函数学习方法
5.2.2 无模型的策略函数学习方法
5.3 逆强化学习
5.3.1 基于最大边际的逆强化学习
5.3.2 基于最大熵的逆强化学习
思考题
第二篇 系统辨识
第6章 线性系统辨识
6.1 预报误差辨识方法
6.1.1 实验数据与辨识准则
6.1.2 辨识方法与收敛性
6.1.3 回归变量的选择
6.2 子空间辨识方法
6.2.1 马尔科夫参数最小实现
6.2.2 参数辨识的子空间方法
6.3 非参数化辨识
6.3.1 再生核希尔伯特空间
6.3.2 正则化系统辨识
6.3.3 广义正交基函数的系统辨识
思考题
第7章 非线性系统辨识
7.1 非线性系统模型描述
7.1.1 非线性模块化系统
7.1.2 非线性函数回归模型
7.1.3 非线性状态空间模型
7.1.4 非线性黑箱模型
7.2 非线性参数化辨识
7.3 非线性核函数辨识
7.3.1 正则化辨识
7.3.2 核函数调参
7.4 非线性滤波辨识
7.4.1 卡尔曼滤波
7.4.2 扩展卡尔曼滤波
7.4.3 正则化滤波与辨识
7.5 混杂系统模型辨识
7.5.1 切换线性模型辨识
7.5.2 分段光滑模型辨识
7.5.3 非线性混杂模型辨识
思考题
第8章 盲系统辨识
8.1 SIMO系统盲辨识
8.1.1 FIR传递函数盲辨识
8.1.2 系统输入盲辨识
8.2 MIMO系统盲辨识
8.2.1 可辨识性分析
8.2.2 子空间辨识方法
8.3 结构化状态空间模型盲辨识
8.3.1 可辨识性分析
8.3.2 子空间辨识方法
思考题
第9章 图模型辨识
9.1 高斯图模型基础
9.2 静态高斯图模型辨识
9.2.1 基于图结构的参数估计
9.2.2 基于数据的图结构辨识
9.3 自回归图模型辨识
9.3.1 自回归模型的极大似然估计
9.3.2 自回归图模型的极大似然估计
9.3.3 严格凸松弛和稳定性
9.4 含隐变量图模型辨识
思考题
第10章 闭环系统辨识
10.1 闭环系统模型
10.2 辅助变量辨识方法
10.3 直接辨识方法
10.4 间接辨识方法
10.5 联合辨识方法
10.6 互质分解辨识方法
思考题
附录A 概率理论
A.1 随机变量与概率分布
A.2 随机向量与概率分布
A.3 共轭先验分布
A.4 多维高斯分布
A.5 信息和熵
附录B 近似推理方法
B.1 确定性近似推理
B.2 采样近似推理
附录C 矩阵理论
C.1 常用矩阵函数
C.2 特征值和特征向量
C.3 向量和矩阵范数
C.4 矩阵微积分
C.5 矩阵奇异值分解
附录D 优化理论
D.1 无约束优化
D.2 等式约束优化
D.3 不等式约束优化
D.4 优化算法
附录E 线性系统理论
E.1 离散信号变换
E.2 线性系统及其性质
E.3 随机过程
参考文献
前辅文
第1章 绪论
1.1 数据驱动建模
1.2 机器学习
1.2.1 机器学习概念
1.2.2 机器学习方法
1.2.3 机器学习分类
1.3 系统辨识
1.3.1 系统辨识原理
1.3.2 系统辨识步骤
1.3.3 系统辨识分类
1.4 应用例子
1.5 内容安排
思考题
第一篇 机器学习
第2章 监督学习方法
2.1 最小二乘法
2.1.1 线性回归
2.1.2 逻辑斯谛回归
2.1.3 均方误差估计
2.2 支持向量机
2.2.1 标准支持向量机
2.2.2 软间隔与正则化
2.2.3 支持向量回归
2.3 核方法与正则化
2.3.1 广义线性模型
2.3.2 核支持向量机
2.3.3 正则化理论
2.4 神经网络
2.4.1 感知器
2.4.2 神经网络结构
2.4.3 反向传播算法
2.5 复合学习方法
2.5.1 集成学习
2.5.2 AdaBoost算法
2.5.3 分类树和逻辑斯谛回归
2.5.4 随机森林
2.6 统计学习方法
2.6.1 极大似然估计法
2.6.2 最大后验估计法
2.6.3 贝叶斯估计方法
思考题
第3章 无监督学习方法
3.1 近邻测度和聚类准则
3.2 聚类方法
3.2.1 层次聚类算法
3.2.2 最优化方法聚类算法
3.2.3 图谱聚类算法
3.3 特征降维
3.3.1 线性判别分析
3.3.2 主成分分析
3.3.3 独立成分分析
3.3.4 多维尺度缩放
3.3.5 拉普拉斯本征映射
3.3.6 局部线性嵌入
3.4 无监督概率模型估计
3.4.1 期望最大化算法
3.4.2 混合高斯分布估计方法
3.4.3 因子分析方法
3.4.4 概率矩阵分解方法
思考题
第4章 深度学习方法
4.1 深度卷积神经网络
4.1.1 卷积神经网络
4.1.2 参数学习
4.1.3 常见卷积神经网络
4.2 循环神经网络
4.2.1 循环网络
4.2.2 记忆网络和注意力机制
4.3 图神经网络
4.3.1 图神经网络的基本框架
4.3.2 图滤波器
4.3.3 图池化
4.3.4 图神经网络学习
4.4 深度生成网络
4.4.1 变分自编码器
4.4.2 生成对抗网络
思考题
第5章 强化学习
5.1 马尔科夫决策
5.1.1 策略迭代学习
5.1.2 值迭代学习
5.2 无模型强化学习
5.2.1 无模型的值函数学习方法
5.2.2 无模型的策略函数学习方法
5.3 逆强化学习
5.3.1 基于最大边际的逆强化学习
5.3.2 基于最大熵的逆强化学习
思考题
第二篇 系统辨识
第6章 线性系统辨识
6.1 预报误差辨识方法
6.1.1 实验数据与辨识准则
6.1.2 辨识方法与收敛性
6.1.3 回归变量的选择
6.2 子空间辨识方法
6.2.1 马尔科夫参数最小实现
6.2.2 参数辨识的子空间方法
6.3 非参数化辨识
6.3.1 再生核希尔伯特空间
6.3.2 正则化系统辨识
6.3.3 广义正交基函数的系统辨识
思考题
第7章 非线性系统辨识
7.1 非线性系统模型描述
7.1.1 非线性模块化系统
7.1.2 非线性函数回归模型
7.1.3 非线性状态空间模型
7.1.4 非线性黑箱模型
7.2 非线性参数化辨识
7.3 非线性核函数辨识
7.3.1 正则化辨识
7.3.2 核函数调参
7.4 非线性滤波辨识
7.4.1 卡尔曼滤波
7.4.2 扩展卡尔曼滤波
7.4.3 正则化滤波与辨识
7.5 混杂系统模型辨识
7.5.1 切换线性模型辨识
7.5.2 分段光滑模型辨识
7.5.3 非线性混杂模型辨识
思考题
第8章 盲系统辨识
8.1 SIMO系统盲辨识
8.1.1 FIR传递函数盲辨识
8.1.2 系统输入盲辨识
8.2 MIMO系统盲辨识
8.2.1 可辨识性分析
8.2.2 子空间辨识方法
8.3 结构化状态空间模型盲辨识
8.3.1 可辨识性分析
8.3.2 子空间辨识方法
思考题
第9章 图模型辨识
9.1 高斯图模型基础
9.2 静态高斯图模型辨识
9.2.1 基于图结构的参数估计
9.2.2 基于数据的图结构辨识
9.3 自回归图模型辨识
9.3.1 自回归模型的极大似然估计
9.3.2 自回归图模型的极大似然估计
9.3.3 严格凸松弛和稳定性
9.4 含隐变量图模型辨识
思考题
第10章 闭环系统辨识
10.1 闭环系统模型
10.2 辅助变量辨识方法
10.3 直接辨识方法
10.4 间接辨识方法
10.5 联合辨识方法
10.6 互质分解辨识方法
思考题
附录A 概率理论
A.1 随机变量与概率分布
A.2 随机向量与概率分布
A.3 共轭先验分布
A.4 多维高斯分布
A.5 信息和熵
附录B 近似推理方法
B.1 确定性近似推理
B.2 采样近似推理
附录C 矩阵理论
C.1 常用矩阵函数
C.2 特征值和特征向量
C.3 向量和矩阵范数
C.4 矩阵微积分
C.5 矩阵奇异值分解
附录D 优化理论
D.1 无约束优化
D.2 等式约束优化
D.3 不等式约束优化
D.4 优化算法
附录E 线性系统理论
E.1 离散信号变换
E.2 线性系统及其性质
E.3 随机过程
参考文献
