林轩田机器学习基石和技法资源

大纲Learning is ImpossibleNo Free Lunch Theory假设有8个hypothesis，这8个hypothesis在D上，对5个训练样本的分类效果效果都完全正确。但是在另外3个测试数据上，不同的hypothesis表现有好有坏。在已知数据D上，g≈f；但是在D以外的未知数据上，g≈f不一定成立。而机器学习目的，恰恰是希望我们选择的模型能在未知数据上的预测与真实结果是一

机器学习基石上 (Machine Learning Foundations)—Mathematical Foundations Hsuan-Tien Lin, 林轩田，副教授 (Associate Professor)，资讯工程学系 (Computer Science and Information Engineering) Theory of Generalization ...

机器学习基石下 (Machine Learning Foundations)—Mathematical Foundations Hsuan-Tien Lin, 林轩田，副教授 (Associate Professor)，资讯工程学系 (Computer Science and Information Engineering) Quadratic Hypotheses circu...

ML基本概念和vc dimension

Eout能够确定是足够接近Ein吗？ 我们能让Ein足够小吗？   M：假设集。M到底有多大，跟这两个问题有什么关系？ M比较小的时候，两者就很接近。但演算法选择就有限。 M很大的时候，演算法就有很多选择。但坏处在于坏事情发生的机率增加了，演算法多，选的数据集容易踩到雷 所以M必须适中。  不仅Ein要接近0，而且Eout才是test集，test才要接近0； 那么回到这两个问题...

大纲Definition of VC dimension1 回顾首先，我们知道如果一个假设空间H有break point k，那么它的成长函数是有界的，它的上界称为Bound function。根据数学归纳法，Bound function也是有界的，且上界为Nk−1。从下面的表格可以看出，O(Nk−1)O(N^{k-1})比B(N,k)松弛很多。 根据上节课的推导，VC Bound可以转化为 如果

第一课 机器学习问题 什么是机器学习？ 什么是“学习”？学习就是人类通过观察、积累经验，掌握某项技能或能力。就好像我们从小学习识别字母、认识汉字，就是学习的过程。而机器学习（Machine Learning），顾名思义，就是让机器（计算机）也能向人类一样，通过观察大量的数据和训练，发现事物规律，获得某种分析问题、解决问题的能力。 机器学习可以被定义为：Improving some perfo...