统计学习理论PDF|Epub|txt|kindle电子书版本网盘下载

统计学习理论PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

引论：归纳和统计推理问题1

统计学中的学习理论体系1

统计推理的两种方法：特殊方法（参数推理）和通用方法（非参数推理）1

参数方法的体系2

参数体系的缺点3

经典体系后的发展4

复兴阶段4

Glivenko-Cantelli-Kolmogorov理论的推广5

结构风险最小化原则6

小样本集推理的主要原则7

本书的要点8

第一部分 学习和推广性理论12

第1章 处理学习问题的两种方法12

基于实例学习的一般模型12

最小化经验数据风险泛函的问题13

模式识别问题15

回归估计问题16

解释间接测量结果的问题18

密度估计问题（Fisher-Wald表达）19

基于经验数据最小化风险泛函的归纳原则21

解函数估计问题的经典方法22

随机对象的识别：密度和条件密度估计23

解近似确定性积分方程的问题25

Glivenko-Cantelli定理26

不适定问题30

学习理论的结构32

第1章附录 解不适定问题的方法35

解算子方程问题35

Tikhonov意义下的适定问题36

正则化方法37

第2章 概率测度估计与学习问题41

随机实验的概率模型41

统计学的基本问题42

估计一致收敛于未知概率测度的条件45

部分一致收敛性和Glivenko-Cantelli定理的推广48

在概率测度估计一致收敛的条件下最小化风险泛函50

在概率测度估计部分一致收敛的条件下最小化风险泛函52

关于概率测度估计收敛方式和学习问题表达的评述54

第3章 经验风险最小化原则一致性的条件55

一致性的经典定义55

严格（非平凡）一致性的定义57

经验过程59

学习理论的关键定理（关于等价性的定理）61

关键定理的证明62

最大似然方法的严格一致性64

频率一致收敛于概率的充分必要条件65

有界实函数集均值一致收敛于期望的充分必要条件68

无界函数集均值一致收敛于期望的充分必要条件70

Kant的划分问题和Popper的不可证伪学说74

不可证伪性定理76

一致单边收敛性经验风险最小化原则和一致性的条件80

学习理论的三个里程碑83

第4章 指示损失函数风险的界86

最简单模型的界：悲观情况86

最简单模型的界：乐观情况89

最简单模型的界：一般情况90

基本不等式：悲观情况92

定理4.1的证明93

基本不等式：一般情况98

定理4.2的证明100

主要的非构造性的界104

VC维105

定理4.3的证明108

不同函数集的VC维的例子112

关于学习机器推广能力的界的评述116

两个等分样本子集上频率差的界118

第4章附录 关于ERM原则风险的下界122

统计推理中的两种策略122

学习问题的最小最大损失策略123

经验风险最小化原则的最大损失的上界125

乐观情形下最小最大损失策略的下界128

悲观情形下最小最大损失策略的下界129

第5章 实损失函数风险的界133

最简单模型的界：悲观情形133

实函数集的容量135

一般模型的界：悲观情形140

基本不等式141

一般模型的界：普遍情形143

一致相对收敛的界145

无界损失函数集中风险最小化问题的先验信息151

无界非负函数集的风险的界153

样本选择与野值问题157

界理论的主要结果158

第6章 结构风险最小化原则160

结构风险最小化归纳原则的构架160

最小描述长度和结构风险最小化归纳原则163

结构风险最小化原则的一致性与关于收敛速率的渐近界167

回归估计问题的界173

函数逼近问题180

局部风险最小化问题188

第6章附录 基于间接测量的函数估计197

估计间接测量结果的问题197

关于利用间接测量估计函数的定理198

定理的证明200

第7章 随机不适定问题213

随机不适定问题213

解随机不适定问题的正则化方法215

定理的证明217

密度估计方法一致性的条件221

非参数密度估计子：基于经验分布函数逼近分布函数的估计子223

非经典估计子229

光滑密度函数的渐近收敛速率232

定理7.4的证明234

密度估计问题中光滑（正则化）参数值的选取238

两个密度比值的估计240

直线上两个密度比值的估计243

直线上条件概率的估计245

第8章 估计给定点上的函数值247

最小化总体风险的方法247

总体风险的结构最小化方法249

关于两个样本子集上频率的一致相对偏差的界250

关于两个样本子集上均值的一致相对偏差的界252

在线性决策规则集中估计指示函数的值255

指示函数值估计的样本选取259

在与参数成线性关系的函数集中估计实函数值261

实函数值估计的样本选取263

估计指示函数值的局部算法264

估计实函数值的局部算法266

在给定样本集中寻找最好点的问题267

第二部分 函数的支持向量估计274

第9章 感知器及其推广274

Rosenbla274

感知器274

定理的证明278

随机逼近方法和指示函数的Sigmoid逼近方法280

势函数法与径向基函数法283

最优化理论中的三个定理285

神经网络289

第10章 估计指示函数的支持向量方法293

最优超平面293

不可分样本集的最优超平面298

最优超平面的统计特性301

定理的证明303

支持向量机的思想308

支持向量方法的另一种构造方式311

利用界选择支持向量机313

模式识别问题的支持向量机的例子314

转导推理的支持向量方法318

多类分类320

关于支持向量方法推广性的评述322

第11章 估计实函数的支持向量方法324

ε不敏感损失函数324

鲁棒估计子的损失函数325

最小化包含ε不敏感损失函数的风险328

函数估计的支持向量机333

构造实函数估计的核337

生成样条的核340

生成Fourier展开的核344

函数逼近和回归估计的支持向量ANOVA分解346

解线性算子方程的支持向量方法347

密度估计的支持向量方法352

条件概率函数和条件密度函数的估计356

支持向量方法与稀疏函数逼近之间的关系360

第12章 模式识别的支持向量机364

二次优化问题364

数字识别问题：美国邮政服务数据库366

切距373

数字识别问题：NIST数据库377

将来的竞争379

第13章 函数逼近、回归估计和信号处理的支持向量机385

模型选择问题385

正则化线性函数集上的结构392

利用支持向量方法的函数逼近401

回归估计的支持向量机406

求解正电子放射层析成像（PET）问题的支持向量方法413

关于支持向量方法的评述420

第三部分 学习理论的统计学基础422

第14章 频率一致收敛于概率的充分必要条件422

频率一致收敛于概率422

基本引理423

事件集的熵426

熵的渐近性质427

一致收敛性的充分必要条件：充分性的证明432

一致收敛性的充分必要条件：必要性的证明435

充分必要条件：必要性的证明（续）439

第15章 均值一致收敛于期望的充分必要条件444

ε熵444

伪立方体449

集合的ε扩张452

辅助引理454

一致收敛性的充分必要条件：必要性的证明457

一致收敛性的充分必要条件：充分性的证明460

定理15.1的推论465

第16章 均值一致单边收敛于期望的充分必要条件469

引言469

最大体积部分469

平均对数定理474

走廊存在性定理479

邻近走廊边界的函数的存在性定理（潜在不可证伪的定理）486

必要条件493

充分必要条件498

注释与参考文献评述511

参考文献539

中英文术语对照表549