扫一扫
关注中图网
官方微博
本类五星书更多>
-
>
决战行测5000题(言语理解与表达)
-
>
软件性能测试.分析与调优实践之路
-
>
第一行代码Android
-
>
深度学习
-
>
Unreal Engine 4蓝图完全学习教程
-
>
深入理解计算机系统-原书第3版
-
>
Word/Excel PPT 2013办公应用从入门到精通-(附赠1DVD.含语音视频教学+办公模板+PDF电子书)
强化学习 版权信息
- ISBN：9787519869618
- 条形码：9787519869618 ; 978-7-5198-6961-8
- 装帧：一般铜版纸
- 册数：暂无
- 重量：暂无
- 所属分类：>
强化学习 本书特色
一句话推荐本书详细解释了被实践验证的那些强化学习方法，它们被封装形成了软件开发人员的标准库。 编辑推荐强化学习将是未来十年在人工智能领域的*大突破之一，强化学习算法能够使得智能体在环境中学习任意目标。这一令人兴奋的发展打破了传统机器学习的算法约束。这本实用的书向数据科学和人工智能专业人员展示了如何通过强化的手段使机器能够自己学习。 本书作者创办了自己名字命名的研究型公司，本书涵盖了从基本的构建模块到*先进的实践。通过本书，你将探索强化学习的当前状态、关注工业应用、学习大量算法，本书还有专门章节介绍如何将强化学习的解决方案部署到生产环节。这并不是一本随用随翻的工具书，书中包含很多数学知识，并期望读者是熟悉机器学习的。 专家推荐“强化学习出色地展示了它的技术背景、发展前景和未来机会，它将显著的推进数据科学家在其业务上的工作方式。”——David Aronchick，Kubeflow联合创始人“对于任何想要应用强化学习技术来解决现实问题的人来说，这本书都是必读的。它将以实践中的案例和细致的解释，带领读者漫游强化学习的**个定理到顶会的前沿技术。”——David Foster，应用数据科学合伙人“伟大著作！本书详细解释了被实践验证的那些强化学习方法，它们被封装形成了软件开发人员的标准库。”——Danny Lange，Unity人工智能高级副总裁 理论完备，涵盖主流经典强化学习算法和深度强化学习算法，并配套理论基础和性能分析。逐章配套Python代码，深度强化学习配套代码基于TensorFlow 2实现。在GitHub上展示全部代码和运行结果。环境丰富，包括Gym库内置环境、对Gym库自定义扩展环境和Gym库以外的环境，并全面兼容Windows、macOS和Linux三大操作系统，书中给出环境配置方法。
强化学习 内容简介
本书作者创办了自己名字命名的研究型公司，本书涵盖了从基本的构建模块到*z优选的实践。通过本书，你将探索强化学习的当前状态、关注工业应用、学习大量算法，本书还有专门章节介绍如何将强化学习的解决方案部署到生产环节。这并不是一本随用随翻的工具书，书中包含很多数学知识，并期望读者是熟悉机器学习的。
本书的主要内容有：学习强化学习是什么，以及算法如何解决具体问题。掌握强化学习的基础知识，包括马尔可夫决策过程、动态规划和时间差分算法。深入研究一系列基于值函数和政策梯度的算法。应用优选的强化学习解决方案，如元学习、分层学习、多智能体、模仿学习等。了解*z前沿的深度强化学习算法，包括Rainbow、PPO、TD3、SAC等。通过本书专门的配套网站获得实践代码和案例。
强化学习 目录
目录
前言 .1
第1 章 强化学习概述 .13
1.1 为什么现在就需要强化学习？ . 14
1.2 机器学习 15
1.3 强化学习 17
1.3.1 什么时候使用强化学习 19
1.3.2 强化学习的应用场景 20
1.4 强化学习的种类 22
1.4.1 免模型学习或有模型学习 . 22
1.4.2 智能体如何使用并更新它们的策略 23
1.4.3 离散或连续的行为 . 25
1.4.4 优化方法. 25
1.4.5 策略评估和改进 . 26
1.5 强化学习的基本概念 . 27
1.5.1 历史上**个强化学习算法 . 28
1.5.2 强化学习和机器学习是一种东西吗？ . 31
1.5.3 奖励和反馈 32
1.6 强化学习的发展简史 . 35
1.7 本章总结 37
1.8 扩展阅读 38
1.9 参考文献 38
第2 章 马尔可夫决策过程，动态规划，蒙特卡洛方法 44
2.1 多臂老虎机测试 44
2.1.1 奖励工程. 45
2.1.2 策略评估：价值函数 45
2.1.3 策略改进：选择*佳动作 48
2.1.4 模拟环境. 50
2.1.5 运行实验. 50
2.1.6 ε - 贪婪算法的改进. 52
2.2 马尔可夫决策过程 . 54
2.2.1 库存控制. 56
2.2.2 库存控制仿真 . 60
2.3 策略与价值函数 62
2.3.1 打折的奖励 62
2.3.2 用状态– 价值函数预测奖励 64
2.3.3 用动作值函数预测奖励 . 67
2.3.4 *优策略. 69
2.4 蒙特卡洛策略生成 70
2.5 动态规划的值迭代 72
2.5.1 值迭代的过程 74
2.5.2 数值迭代结果 76
2.6 总结 78
2.7 扩展阅读 79
2.8 参考文献 79
第3 章 时序差分学习，Q 学习和n 步算法 80
3.1 时序差分学习的相关公式 81
3.1.1 Q 学习 . 83
3.1.2 SARSA 85
3.1.3 Q 学习与SARSA 方法的对比 . 87
3.1.4 案例解析：自动扩展应用程序容器以降低成本 . 90
3.2 行业实例：广告中的实时竞价 . 92
3.2.1 MDP 的定义 . 92
3.2.2 实时竞价案例的环境 93
3.2.3 进一步改进 94
3.3 Q 学习的相关扩展 96
3.3.1 双重Q 学习 96
3.3.2 延迟Q 学习 97
3.3.3 各类版本的Q 学习之间的对比 98
3.3.4 对抗学习. 98
3.4 n 步算法 99
3.5 有效跟踪 104
3.6 有效跟踪算法的扩展 107
3.6.1 沃特金斯的Q(λ) 107
3.6.2 沃特金斯Q(λ) 的模糊擦除 . 108
3.6.3 快速Q 学习 108
3.6.4 积累式有效跟踪与取代式有效跟踪 108
3.7 总结 . 109
3.8 扩展阅读 110
3.9 参考文献 110
第4 章 深度Q 网络 . 112
4.1 深度学习的体系结构 113
4.1.1 基础知识 113
4.1.2 深度学习架构 114
4.1.3 深度学习库 . 115
4.1.4 深度强化学习 117
4.2 深度Q 学习 . 117
4.2.1 经验重放 118
4.2.2 克隆Q 网络 118
4.2.3 神经网络结构 119
4.2.4 DQN 的实现 119
4.2.5 实际案例：倒立摆环境中的DQN 120
4.2.6 案例研究：减少建筑物的能源使用 125
4.3 彩虹DQN 126
4.3.1 分配强化学习 126
4.3.2 优先经验重放 129
4.3.3 噪声网络 129
4.3.4 决斗网络 129
4.4 实际案例：雅达利的彩虹DQN 130
4.4.1 结果 131
4.4.2 讨论 132
4.5 其他DQN 改进 134
4.5.1 改进探索过程 135
4.5.2 改进奖励过程 136
4.5.3 从离线数据中进行学习 137
4.6 总结 . 139
4.7 扩展阅读 140
4.8 参考文献 140
第5 章 梯度策略 144
5.1 直接学习策略的优势 144
5.2 如何计算策略的梯度 145
5.3 策略梯度理论 . 146
5.4 策略函数 149
5.4 1 线性策略 149
5.4.2 其他策略 151
5.5 基本实现 152
5.5.1 蒙特卡洛算法(强化算法) 152
5.5.2 带基线的强化算法 153
5.5.3 梯度方差的减小 157
5.5.4 n 步演员评论家和优势演员评论家(A2C) . 159
5.5.5 基于资格迹的演员评论家算法 . 164
5.5.6 基本策略梯度算法的比较 165
5.6 行业研究：为客户自动提供产品 . 166
5.6.1 行业实例：Gym 环境中的购物车实验 . 167
5.6.2 预设期望 168
5.6.3 购物车实验环境的结果展示 169
5.7 总结 . 173
5.8 扩展阅读 174
5.9 参考文献 174
第6 章 超越策略梯度 176
6.1 离线算法 177
6.1.1 重要性抽样 177
6.1.2 行为和目标策略 179
6.1.3 离线 Q 学习 180
6.1.4 梯度时差学习 180
6.1.5 Greedy-GQ 算法 181
6.1.6 离线演员评论家算法 . 182
6.2 决定性策略梯度 183
6.2.1 决定性策略梯度 183
6.2.2 深度确定性策略梯度 . 185
6.2.3 双延迟DDPG 189
6.2.4 案例研究：利用到用户评论的推荐算法 193
6.2.5 改进DPG. 194
6.3 信赖域方法 195
6.3.1 Kullback-Leibler 散度 197
6.3.2 自然策略梯度与信任区域策略优化 198
6.3.3 近端策略优化 201
6.4 实际案例：在现实生活中使用伺服器 206
6.4.1 实验设置 . 206
6.4.2 强化学习算法实现 207
6.4.3 增加算法的复杂度 210
6.4.4 模拟中的超参数调优 . 211
6.4.5 产生的策略 212
6.5 其他策略梯度算法 214
6.5.1 回溯(λ) 214
6.5.2 有经验重放的演员评论家(ACER) 214
6.5.3 使用Kronecker 因子信任区域的演员评论家算法(ACKTR) 215
6.5.4 更多相关方法 216
6.6 策略梯度算法的扩展 216
6.7 总结 . 217
6.7.1 应该使用哪种算法？ . 217
6.7.2 关于异步方法的注意事项 218
6.8 扩展阅读 218
6.9 参考文献 219
第7 章 用熵方法学习所有可能的策略 225
7.1 什么是熵？ 225
7.2 *大熵强化学习 226
7.3 弱演员评论家算法 227
7.3.1 SAC 的实现细节与离散动作空间 228
7.3.2 自动调整温度 229
7.3.3 案例研究：有助于减少交通拥堵的自动化交通管理系统 229
7.4 *大熵方法的推广 231
7.4.1 熵的其他度量(以及策略集) . 231
7.4.2 基于双重Q 学习上限的优化探索 231
7.4.3 通过历史经验重放改进结果 232
7.4.4 软策略梯度 . 232
7.4.5 软Q 学习(及其扩展) 232
7.4.6 路径一致性学习 233
7.5 性能比较：SAC 与PPO 233
7.6 熵是如何激励智能体进行探索的？ . 235
7.7 行业实例：通过遥控车学习自动驾驶 240
7.7.1 问题描述 241
7.7.2 减少训练时间 241
7.7.3 夸张的动作 . 244
7.7.4 超参数探索 . 246
7.7.5 *终策略 246
7.7.6 进一步改进 . 247
7.8 本章总结 248
7.8.1 策略梯度与软Q 学习的等价性 249
7.8.2 这对今后的发展意味着什么？ . 249
7.8.3 这对目前来说意味着什么？ 249
7.9 参考文献 250
第8 章 改进智能体的学习方式 253
8.1 关于MDP 的思考 . 254
8.1.1 部分可观察马尔可夫决策过程 . 254
8.1.2 案例研究：POMDP 在自动驾驶汽车中的应用 256
8.1.3 上下文马尔可夫决策过程 . 257
8.1.4 动作不断变化的MDPs 257
8.1.5 正则化MDP 258
8.2 层次强化学习 . 259
8.2.1 初级层次强化学习 . 259
8.2.2 具有内在奖励的层次强化学习(HIRO) 260
8.2.3 学习技巧和无监督学习 262
8.2.4 在HRL 中使用技能 263
8.2.5 HRL 研究结论 264
8.3 多智能体强化学习 265
8.3.1 MARL 的框架 265
8.3.2 集中式或分布式 267
8.3.3 单智能体算法 268
8.3.4 案例研究：单智能体分散学习在无人机中的应用 . 269
8.3.5 集中学习，分散执行 . 270
8.3.6 分散的学习 . 272
8.3.7 其他的组合 . 273
8.3.8 MARL 的挑战 274
8.3.9 MARL 的结论 275
8.4 专家的指导 276
8.4.1 克隆行为 276
8.4.2 模拟强化学习 276
8.4.3 反向强化学习 277
8.4.4 课程学习 279
8.5 其他案例 281
8.5.1 元学习 281
8.5.2 迁移学习 281
8.6 总结 . 282
8.7 扩展阅读 283
8.8 参考文献 285
第9 章 强化学习实践 293
9.1 强化学习的生命周期 293
9.2 问题定义：一个真正的强化学习项目到底包括什么？ . 299
9.2.1 强化学习问题是连续性问题 299
9.2.2 强化学习问题是战略性问题 300
9.2.3 强化学习中的基础指标 302
9.2.4 学习类型 304
9.3 强化学习工程和改进 309
9.3.1 项目过程 309
9.3.2 环境工程 310
9.3.3 状态工程或状态表示学习 313
9.3.4 策略工程 316
9.3.5 将策略映射到操作空间 322
9.3.6 探索 326
9.3.7 奖励工程 333
9.4 总结 . 337
9.5 扩展阅读 338
9.6 参考文献 339
第10 章 强化学习的生产部署 348
10.1 实现阶段 . 349
10.1.1 框架 . 349
10.1.2 大规模强化学习 353
10.1.3 评价 . 361
10.2 部署 370
10.2.1 目标 . 371
10.2.2 体系架构 374
10.2.3 辅助工具 376
10.2.4 安全、保障和道德 382
10.3 总结 389
10.4 扩展阅读 . 390
10.5 参考文献 . 392
第11 章 结论与展望 . 400
11.1 提示和技巧 400
11.1.1 框架问题 400
11.1.2 你的数据 402
11.1.3 训练 . 403
11.1.4 评价 . 404
11.1.5 部署 . 404
11.2 调试 405
11.2.1 ${ALGORITHM_NAME} 不能解决${ENVIRONMENT}! 406
11.2.2 监测调试 407
11.3 强化学习的未来 408
11.3.1 强化学习市场机会 409
11.3.2 强化学习的研究方向 410
11.4 结束语 416
11.4.1 未来下一步 417
11.4.2 现在轮到你了！ . 418
11.5 扩展阅读 . 418
11.6 参考文献 . 419
附录A 两种动作的Logistic 策略梯度 423
附录B Softmax 的策略梯度 . 427
展开全部
强化学习 作者简介
Phil Winder博士是一名多学科交叉的软件工程师、作家和科技顾问，同时也是温德研究所的CEO。该研究所主要提供云计算科学咨询，主营业务是帮助初创公司和大型企业改进数据流程、平台以及产品。作者于英国赫尔大学获得电子工程硕士和博士学位，现居英国约克郡。
书友推荐
- >
姑妈的宝刀
姑妈的宝刀
¥9.0¥30.0 - >
自卑与超越
自卑与超越
¥12.7¥39.8 - >
人文阅读与收藏·良友文学丛书:一天的工作
人文阅读与收藏·良友文学丛书:一天的工作
¥14.7¥45.8 - >
唐代进士录
唐代进士录
¥15.1¥39.8 - >
二体千字文
二体千字文
¥14.0¥40.0 - >
月亮虎
月亮虎
¥14.4¥48.0 - >
苦雨斋序跋文-周作人自编集
苦雨斋序跋文-周作人自编集
¥6.9¥16.0 - >
新文学天穹两巨星--鲁迅与胡适/红烛学术丛书(红烛学术丛书)
新文学天穹两巨星--鲁迅与胡适/红烛学术丛书(红烛学术丛书)
¥9.9¥23.0
本类畅销
-
”互联网+“时代计算机算法的应用及其实践研究
¥19.9¥59 -
微服务设计
¥52.8¥69 -
图说深度学习:用可视化方法理解复杂概念
¥109¥188 -
计算机基础
¥17.2¥31 -
改变未来的九大算法
¥50¥68 -
生成式AI入门与AWS实战
¥77.8¥99.8
