coder_oyang的博客

写作目的：发现很多机器学习算法中，多少涉及到迭代求解无约束函数的最值；然而，梯度下降法是求解无约束最优化问题的一种常用算法。其流程为：选初始值，求梯度，迭代

七种降维方法

自然语言理解，口语理解简介

Ubuntu 安装 pylucene ， SmartChineseAnalyze

时序数列预测算法 ARIMA 以及 ELman Neural Network , tensorflow TFTS

Python pylucene Theano 多线程问题

通过 Active Learning 方式挑选需标注样本

格灵深瞳面试--我和Yoshua Bengio有约

Ubuntu下配置GPU深度学习环境-Ubuntu16以及Ubuntu14均有效

特征选择     基本思路是根据某个评价指标独立的对原始特征项（词项）进行评分排序，从中选择得分最高的一些特征项，过滤掉其余的特征项。常用的评价有文档频率、互信息、信息增益、χ²统计量等。手段包括：正则化（L1，L2）方法，回归模型（根据各属性权重）、决策树（根据距离跟结点距离）、随机森林（平均不纯度减少，平均精确度减少）分层抽样    机器学习模型训练过程中，通过分层抽样将样本集划分为训练集、测...

深度学习固然热络，但在垂直领域，我还是推崇规则匹配，垂直领域的正常问答中，不会超过10000条语句，那么规则其实能很好cover，准确率甚至能高达90%，累积了大数据，深度学习在这个时候就能很好提升模型精度，下面是对智能交互的总结。                                        智能交互总体框架下面着重总结下自然语言理解（NLU）部分：1. NLU分

勘误：第二幅图从根结点开始的第四层叶节点，从左往右的最后一个叶结点下的汉字应该为 刘德华

本文从建模角度出发，通过概率图模型分析隐马尔可夫，条件随机场，文章重点在模型建立理论基础

1. Hadoop包含两核心部分hdfs Hadoop distribute file system -- hadoop分布式文件系统，存储数据 Namenode、Datanode 常用命令形式：hadoop fs -ls  /  hadoop fs -mkdir MapReduce 分而治之；map:实现分治；reduce：实现合并 解决数据可分割的计算问题 编程接...

NLP好去处

应对非均衡数据集分类问题的八大策略

拉格朗日对偶性写作目的拉格朗日乘子算法对偶问题写作目的前一篇文章总结的关于无约束优化的极值求解问题是： 梯度下降法-gradient descent –实例解析 。但类似于最大熵模型(Maximum Entropy Model)，或者支持向量机(Support Vector Machines)，这些有约束优化问题要求解怎么办呢？这就是本文的目的。拉格朗日乘子算法原始问题假设

支持向量机的一些总结，一整套的推导，浅显易懂，适合入门

SVM多分类的一些笔记，以及在OpenCV3.0上的SVM分类代码

面试总结

PCA总结，适合入门参考

百度2015校园招聘机器学习笔试题中关于hashmap的使用情况

转载

SVM multi label

随笔

Facebook NLP 大牛Tomas Mikolov的又一力作 Bag of Tricks for Efficient Text Classification ，号称提出了区别于Word2vec的一种简单而高效的文本分类和特征学习方法。原文链接自行Google之，下面是机器之心的翻译链接 Bag of Tricks for Efficient Text Classification 觉

因为在实际中常常遇到失衡数据集的分类问题，在我的译文应对非均衡数据集分类问题的八大策略中，其中一种策略就是改变衡量模型性能的计算方式，那么怎么衡量模型分类性能呢？有ROC曲线，有混淆矩阵，有对应的实例ROC曲线，横轴假阳性（样本为负，预测为正），纵轴真阳性（样本为正，预测为正），在每个可能的分类阈值下统计假阳性、真阳性，阈值越大曲线接近（0,0）点，阈值越小曲线趋近（1，1）点；通过AUC...

搭建Scipy+Python3.4+PyCharm 的时候，出现问题 -- no lapack/blas resources found 的解决方案

自己的一些关于线性回归与逻辑斯谛回归的想法

Chris Dyer Neural architectures for named entity recognition