数学相关 - powered by Easy File Sharing Web Server

论坛

文件夹

用户设置

注销

数学相关

作者

正文

ctral

注册：07/02/2023
帖子数： 87

发表： 12/14/2025 08:30 PM 读书笔记《Support Vector Machines》

本书是Ingo Steinwart和Andreas Christmann于2008年发表的著作，对支持向量机做出了详细研究探讨．两位作者算是本专业方向上的大牛了，过去在参加的一些会议上见过，有一次还难得与后者练习了两句英文．本来支持向量机和核方法在机器学习领域的流行已经过去了很多年，没有太大必要回头来读这样一部大部头．但是前段时间做的一个分析，用到不少本书的内容，感觉还是值得翻看一下．本书看起来是作为一本教材来写的，因此每章后有不少习题，而附录还介绍了很多基础知识，可在有需要时候来查阅．总体来讲，对学习研究SVM和核方法还是很有作用的，但在深度学习广泛应用的现在，只有很少的借鉴意义了．

ctral

注册： 07/02/2023
帖子数： 87

发表： 12/15/2025 09:24 PM

Ch 1: 引言介绍了SVM及其相关的其他机器学习算法，和我自己课程上讲的类似．
Ch 2: 本章引入了多种损失函数，有趣的是提出一个L(x,t)=L(x,y,t)的无监督损失，并举例如DLD密度损失，密度估计损失等．其他损失，及得到的期望风险函数性质则较为复杂．简单来说，介绍了一般化的截断/凸/Lips/边际/(基于)距离/对称损失，和具体的hinge/平方hinge/逻辑/p阶距离/逻辑距离/Huber/不敏感/pinball等损失．需要时可来查询．

ctral

注册： 07/02/2023
帖子数： 87

发表： 12/22/2025 07:49 PM

Ch 3: 本章主要讲了替代损失的问题．通过引入一个叫做测定(calibration)函数的方法，使得使用原损失的期望风险与替代损失的期望风险联系起来，即替代损失所得的过泛化误差收敛，则原损失的也是．但本章具体定理的表达均比较复杂，需要仔细阅读．而该系列的结论可用于提出或分析替代损失的研究问题，如有该需要可再详细学习本章．