模式识别和机器学习基础

本书没有对模式识别和机器学习进行百科全书式的介绍，而是精选了核心内容，使读者在学习本书后能够精通核心知识点。本书广泛使用Python脚本和真实的生物信息学和材料信息学数据集来说明理论的要点。

模式识别和机器学习是人工智能应用的基础。本书将模式识别任务按照监督学习和无监督学习两种方式进行组织。第1章讨论模式识别和机器学习的内在关系，介绍了两者的基础知识和模式识别的设计过程。第2章和第3章介绍了zui优化的和常规的基于实例的分类问题。第4~6章检验了参数的、非参数的和函数逼近的分类规则。之后在第7章和第8章就分类的误差估计和模型选择对分类模型的性能进行讨论。第9章介绍了能够提高分类模型的性能并减少存储空间的降维技术。第10章和第11章分别介绍了聚类分析技术和回归模型。本书适合相关专业高年级本科生和研究生，以及该领域的从业人员阅读。

目录<br /><br /><br />Fundamentals of Pattern Recognition and Machine Learning<br /><br /><br />译者序<br /><br />前言<br />第1章概述111模式识别与机器学习1<br /><br />12数学基础设置1<br /><br />13预测2<br /><br />14预测误差2<br /><br />15监督学习与无监督学习3<br /><br />16复杂性权衡3<br /><br />17设计周期4<br /><br />18应用实例5<br /><br />181生物信息学5<br /><br />182材料信息学7<br /><br />19文献注释9<br />第2章很优分类1021无特征分类10<br /><br />22有特征分类10<br /><br />23贝叶斯分类器13<br /><br />24贝叶斯误差16<br /><br />25高斯模型19<br /><br />251同方差情况20<br /><br />252异方差情况22<br /><br />26其他主题22<br /><br />261极小极大分类22<br /><br />262F误差24<br /><br />263贝叶斯决策理论26<br /><br />*264分类问题的严格表达27<br /><br />27文献注释28<br /><br />28练习29<br /><br />29Python作业33<br />第3章基于实例的分类3631分类规则36<br /><br />32分类错误率38<br /><br />*33一致性38<br /><br />34没有免费午餐定理41<br /><br />35其他主题42<br /><br />351集成分类42<br /><br />352混合抽样与独立抽样43<br /><br />36文献注释44<br /><br />37练习44<br /><br />38Python作业45<br />第4章参数分类4741参数替换规则47<br /><br />42高斯判别分析48<br /><br />421线性判别分析48<br /><br />422二次判别分析51<br /><br />43逻辑斯谛分类53<br /><br />44其他主题54<br /><br />441正则化判别分析54<br /><br />*442参数规则的一致性55<br /><br />443贝叶斯参数规则57<br /><br />45文献注释59<br /><br />46练习60<br /><br />47Python作业62<br />第5章非参数分类6451非参数替换规则64<br /><br />52直方图分类65<br /><br />53最近邻分类66<br /><br />54核分类68<br /><br />55CoverHart定理70<br /><br />*56Stone定理73<br /><br />57文献注释74<br /><br />58练习75<br /><br />59Python作业76<br />第6章函数逼近分类7861支持向量机78<br /><br />611可分数据的线性支持<br />向量机78<br /><br />612一般线性支持向量机80<br /><br />613非线性支持向量机82<br /><br />62神经网络86<br /><br />621反向传播训练89<br /><br />622卷积神经网络92<br /><br />*623神经网络的普遍逼近<br />性质94<br /><br />624普遍一致性定理96<br /><br />63决策树97<br /><br />64有序分类器100<br /><br />65文献注释101<br /><br />66练习102<br /><br />67Python作业104<br />第7章分类误差估计10871误差估计规则108<br /><br />72误差估计性能109<br /><br />721偏差分布109<br /><br />722偏差、方差、均方根和<br />尾概率110<br /><br />*723一致性111<br /><br />73测试集误差估计112<br /><br />74再代入误差估计113<br /><br />75交叉验证114<br /><br />76自助方法116<br /><br />77增强误差估计118<br /><br />78其他主题121<br /><br />781凸误差估计器121<br /><br />782平滑误差估计器123<br /><br />783贝叶斯误差估计123<br /><br />79文献注释126<br /><br />710练习127<br /><br />711Python作业129<br />第8章分类模型选择13181分类复杂性131<br /><br />82VapnikChervonenkis理论134<br /><br />*821有限模型选择134<br /><br />822打散系数与VC维度135<br /><br />823几种分类规则中的VC<br />参数136<br /><br />824VapnikChervonenkis<br />定理139<br /><br />825没有免费午餐定理139<br /><br />83模型选择方法140<br /><br />831验证误差最小化140<br /><br />832训练集误差最小化141<br /><br />833结构性风险最小化141<br /><br />84文献注释142<br /><br />85练习143<br />第9章降维14591面向分类任务的特征提取145<br /><br />92特征选择146<br /><br />921穷举搜索146<br /><br />922单变量贪婪搜索147<br /><br />923多变量贪婪搜索149<br /><br />924特征选择与分类复杂性150<br /><br />925特征选择与误差估计150<br /><br />93主成分分析152<br /><br />94多维缩放155<br /><br />95因子分析156<br /><br />96文献注释158<br /><br />97练习159<br /><br />98Python作业160<br />第10章聚类162101KMeans算法162<br /><br />102高斯混合模型165<br /><br />1021期望优选化方法166<br /><br />1022与KMeans的关系170<br /><br />103层次聚类171<br /><br />104自组织映射173<br /><br />105文献注释174<br /><br />106练习175<br /><br />107Python作业176<br />第11章回归178111很优回归178<br /><br />112基于样本的回归181<br /><br />113参数回归182<br /><br />1131线性回归183<br /><br />1132高斯马尔可夫定理185<br /><br />1133补偿最小二乘法186<br /><br />114非参数回归187<br /><br />1141核回归187<br /><br />1142高斯过程回归188<br /><br />115函数近似回归194<br /><br />116误差估计195<br /><br />117变量选择196<br /><br />1171Wrapper 搜索196<br /><br />1172统计检验196<br /><br />1173LASSO和 Elastic Net196<br /><br />118模型选择197<br /><br />119文献注释197<br /><br />1110练习198<br /><br />1111Python作业200<br />附录202<br /><br />参考文献235