异常检测(Anomaly Detection)

Andrew Ng老师的机器学习入门基础课程算是学完了，所谓”学而不思则惘，思而不学则殆”·，复盘一下学习情况和理解程度还是很有必要的，不过要交毕业论文啦，肝完毕设再来更博。

Machine Learning编程作业:用自己的数据训练垃圾邮件分类器

Andrew Ng的machine learning公开课在支持向量机一章的附加题：自己构建数据集，使用SVM来训练垃圾邮件分类器,先放上实现的github链接。

聚类(Clustering)

无监督学习(Unsupervised Learning)

数据没有任何标签信息

聚类算法

将一系列无标签的训练数据，输入到一个算法中，得到给定数据的内在结构。我们可能需要某种算法帮助我们寻找一种结构。

支持向量机(Support Vector Machines)

优化目标

监督学习算法的性能大多类似，因此重要的不是选择算法，而是应用算法的水平。诸如特征的选择以及正则化参数的选择。SVM在学习复杂的非线性方程时提供了更为清晰、强大的方式。

机器学习应用的建议

《数学之美》这本书中有一句让我印象深刻的话：“许多失败并不是因为人不优秀，而是做事情的方法不对，一开始追求大而全的解决方案，之后长时间不能完成。最后不了了之”。在这一周的学习课程中，Andrew Ng同样给我们传达了这样的理念:”研究机器学习的东西，或者构造机器学习应用程序，最好的实践方法不是建立一个非常复杂的系统，拥有多么复杂的变量；而是构建一个简单的算法，这样你可以很快地实现它，然后再在这个基础上决定下一步怎么完善。

神经网络：学习(Neural Networks:Learning)

代价函数

标记方法

• 训练样本 m
• 输入 X
• 输出信号 y
• 神经网络层数 L
• 每层的神经元个数 $S_I$
• 输出单元个数 $S_L$
  Read more »

神经网络:表述(Neural Networks:Representation)

神经元和大脑

Ng试图阐述神经网络与人脑网络的联系(大雾)：大脑处理的方法可能是一个简单而完美的学习算法。
人工智能的梦想就是：有一天能制造出真正的智能机器。
而神经网络可能为我们打开一扇进入遥远的人工智能梦的窗户。

逻辑回归(Logistic regression)

分类问题

线性回归只能预测连续的值，分类问题只需要输出0或者1；当假设函数的值大于等于0.5，预测为1，小于0.5则预测为0。

学习shell

什么是shell

shell 就是一个程序，它接受从键盘输入的命令， 然后把命令传递给操作系统去执行

线性回归代价函数的来源

Andrew Ng在Coursea的machine learning公开课上引入cost function：”And one thing I might do is try to minimize the square difference between the output of the hypothesis and the actual price of a house”
那Cost Function是square difference的原因是什么呢？