- 多目标贝叶斯优化(面向大模型的超参调优理论)
- - 作者：徐华//王洪燕//袁源|责编:白立军//常建丽
  - 出版社：清华大学
  - ISBN：9787302667513
  - 出版日期：2024/07/01
  - 页数：182
- 售价：23.6

内容大纲
本书关注大模型超参调优这类昂贵的多目标优化问题，针对其经典的求解方法（贝叶斯优化方法）开展理论方法探索。针对低维和高维决策空间中的并行化丽数评估问题，获取函数优化效率问题以及维度灾难和边界问题，本书对多目标贝叶斯优化方法进行四方面的研究，旨在有效地求解低维和高维昂贵的多目标优化问题。
本书可作为当前大模型超参调优理论研究与应用实践的指导书，也可作为演化学习、智能优化、大数据及人工智能等相关专业的教材和参考书。
作者介绍
目录
第1章  概述
  1.1  研究背景
  1.2  昂贵的多目标优化问题
  1.3  研究现状分析
    1.3.1  低维多目标贝叶斯优化方法
    1.3.2  高维多目标贝叶斯优化方法
  1.4  本书的主要研究内容
  1.5  本书的结构安排
第2章  背景知识
  2.1  基本概念
  2.2  贝叶斯优化
  2.3  高斯过程
    2.3.1  均值函数和核函数选择
    2.3.2  超参数选择
  2.4  获取函数
    2.4.1  期望改进
    2.4.2  知识梯度
    2.4.3  熵搜索和预测熵搜索
    2.4.4  多步最优获取函数
  2.5  标准合成的多目标测试问题
  2.6  多目标优化方法的评价指标
  2.7  本章小结
第3章  研究综述
  3.1  综述部分的总体结构
  3.2  相关研究工作
    3.2.1  高维优化
    3.2.2  组合优化
    3.2.3  噪声和鲁棒优化
    3.2.4  昂贵的约束优化
    3.2.5  多目标优化
    3.2.6  多任务优化
    3.2.7  多保真度优化
    3.2.8  迁移学习/元学习
    3.2.9  并行/批次贝叶斯优化
  3.3  本章小结
第4章  基于自适应采样的批量多目标贝叶斯优化方法
  4.1  引言
  4.2  ParEGO简介与局限性分析
  4.3  基于自适应采样的批量多目标贝叶斯优化的研究方法
    4.3.1  算法框架
    4.3.2  初始化
    4.3.3  函数评估与目标函数聚合
    4.3.4  获取函数
    4.3.5  自适应批量采样
    4.3.6  高斯模型及更新
  4.4  实验
    4.4.1  实验设置
    4.4.2  标准合成测试集上的对比结果
    4.4.3  采样策略对算法性能的影响
  4.5  神经网络超参调优任务案例分析

    4.5.1  问题描述
    4.5.2  实验结果与分析
  4.6  本章小结
第5章  基于块坐标更新的高维多目标贝叶斯优化方法
  5.1  引言
  5.2  基于块坐标更新的高维多目标贝叶斯优化的研究方法
    5.2.1  算法框架
    5.2.2  初始化
    5.2.3  函数评估与目标函数聚合
    5.2.4  块坐标更新
    5.2.5  E贪心获取函数
    5.2.6  高斯模型及候选解推荐
  5.3  实验
    5.3.1  实验设置
    5.3.2  标准合成测试集上的对比结果
    5.3.3  块坐标更新对决策空间降维的影响
    5.3.4  E-贪心获取函数对平衡收敛性与多样性的影响
    5.3.5  块大小d对算法性能的影响
    5.3.6  上下文向量对算法性能的影响
  5.4  本章小结
第6章  基于可加高斯结构的高维多目标贝叶斯优化方法
  6.1  引言
  6.2  ADD-GP-UCB简介与局限性分析
  6.3  基于可加高斯结构的高维多目标贝叶斯优化的研究方法
    6.3.1  算法框架
    6.3.2  初始化
    6.3.3  函数评估与目标函数聚合
    6.3.4  决策空间划分学习
    6.3.5  可加高斯模型
    6.3.6  可加双目标获取函数和候选解推荐
    6.3.7  模型更新
  6.4  实验
    6.4.1  实验设置
    6.4.2  标准合成测试集上的对比结果
    6.4.3  可加双目标获取函数对算法性能的影响
  6.5  本章小结
第7章  基于变量交互分析的高维多目标贝叶斯优化方法
  7.1  引言
  7.2  基于变量交互分析的高维多目标贝叶斯优化的研究方法
    7.2.1  算法框架
    7.2.2  初始化与函数评估
    7.2.3  可分多目标问题重定义
    7.2.4  决策空间划分学习
    7.2.5  多目标可加高斯模刑
    7.2.6  候选解推荐
    7.2.7  模型更新
  7.3  实验
    7.3.1  实验设置
    7.3.2  标准合成测试集上的对比结果
    7.3.3  获取函数对算法性能的影响

  7.4  本章小结
第8章  智能交通领域优化问题案例分析
  8.1  问题描述
    8.1.1  汽车侧面碰撞问题
    8.1.2  带有偏好信息的汽车驾驶室设计问题
  8.2  实验结果与分析
    8.2.1  汽车侧面碰撞问题的结果分析
    8.2.2  带有偏好信息的汽车驾驶室设计问题的结果分析
  8.3  本章小结
第9章  未来研究工作展望
  9.1  分布式贝叶斯优化
  9.2  联邦贝叶斯优化
  9.3  动态优化
  9.4  异构评估
  9.5  算法公平性
  9.6  非平稳优化
  9.7  负迁移
第10章  全书总结
参考文献
附录
  英文对照表
  图索引
  表索引

内容大纲

作者介绍

目录

同类热销排行榜

推荐书目