统计模型之间的比较

HMM模型将标注看作马尔可夫链，一阶马尔可夫链式针对相邻标注的关系进行建模，其中每个标记对应一个概率函数。HMM是一种产生式模型，定义了联合概率分布 ，其中x和y分别表示观察序列和相对应的标注序列的随机变量。为了能够定义这种联合概率分布，产生式模型需要枚举出所有可能的观察序列，这在实际运算过程中很困难，因为我们需要将观察序列的元素看做是彼此孤立的个体即假设每个元素彼此独立，任何时刻的观察结果只依赖...

前言 声明： 所有计算基于R软件，如果有人问其他软件如何实现，请自行Google。 评价一个预测模型的表现可以从三方面来度量： 区分能力（discrimination）： 指的是模型区分有病/没病，死亡/活着等结局的预测能力。简单举个例子，比如说，现有100个人，50个有病，50个健康；你用预测模型预测出46个有病，54个没病。那么这46个覆盖到50个真正有病的人的多少就直接决定了你模型

方差分析在试验科学中有重要的地位，今天谈谈如何用R做方差分析前提假设：独立、正态、方差齐次(各水平间)例子：x数据集用5个因子水平测量，问是否存在差异光是这样是无法进行分析的，对数据x进行格式转化bx a125.6 1222.2 1328.0 1429.8 1524.4 2630.0 2729.0 2827.5 2925.0 310 27.7 311 23.0 312 32.2 ...

创建节点并定义它们之间的条件关系。

概念：总体均值总体方差样本均值样本方差估计值表示：estimator，常用：p为真值，为p的估计无偏(unbias)：用样本统计估计总体参数时，估计量的均值(数学期望)与未知参数的真值一样时，为无偏估计。一致性(consistency)：随着样本量的增加，偏差越来越小，则称为一致性估计。譬如用MLE对方差估计时，其偏差为，这个值随着样本量n的增大而减小，所以为一致性估计。有效性(availabil...

介绍了隐马尔可夫模型 (HMM)、最大熵马尔可夫模型 (MEMM) 和条件随机场 (CRF) 的比较分析。 HMM、MEMM 和 CRF 是三种流行的统计建模方法，通常应用于模式识别和机器学习问题。

一、经验误差与过拟合 1.误差 学习器的预测值与真是输出之间的差异称为“误差”。 我们把学习器在训练集上的误差称为“经验误差”或者“训练误差”。在新样本上的误差称为“泛化误差”。 2.过拟合与欠拟合 过拟合就是由于学习能力过强，以至于把训练样本所包含的不太一般的特性都学到了。 欠拟合就是由于学习能力低下造成的，很多数据不在拟合的函数上。 关于过拟合和欠拟合，以及正则话，可以查...

一、多元回归  1、概述：  在研究变量之间的相互影响关系模型时候，用到这类方法，具体地说：其可以定量地描述某一现象和某些因素之间的函数关系，将各变量的已知值带入回归方程可以求出因变量的估计值，从而可以进行预测等相关研究。    2、分类   分为两类：多元线性回归和非线性线性回归； 其中非线性回归可以通过一定的变化转化为线性回归，比如：y=lnx 可以转化为y=u    u=ln...

本文转自：如何在R软件中求一致性指数 C-index，C指数即一致性指数（index of concordance），用来评价模型的预测能力。c指数是资料所有病人对子中预测结果与实际结果一致的对子所占的比例。它估计了预测结果与实际观察到的结果相一致的概率。c指数的计算方法是：把所研究的资料中的所有研究对象随机地两两组成对子。以生存分析为例，对于一对病人，如果生存时间较长的一位的预测生存时间也长于...

(三)Logistic回归模型评价：在常用的临床模型构建中，主要分为两种，包括临床预测模型(Cox回归模型)和临床诊断模型(Logstic回归模型)。在之前的内容中，阿琛给大家介绍了如何使用Nomogram图将临床预测模型可视化，以及Cox回归模型的相关评价指标。下面是临床模型的第三集临床诊断模型篇，即如何对Logistic回归模型进行评价。1.建立Logistic预测模型：1.1 引用R包：#i...

这篇文章会从统计建模的方面来说明，机器学习方面的回归模型将放到之后。 一、模型假设 考虑模型如下 Y=β_0+β_1X_1+β_2X_2+ε 建立回归模型时，需要考虑数据是否满足以下六个条件。满足以下条件的数据才具有用回归模型模拟的意义，同时回归模型对于数据也才具备解释和预测的能力。 指数分布族和广义线性回归（见上篇）可以保证线性回归模型的以下基本假设 a、Y的平均值能够准确地被由X组成的线性函数...

从传统的语言模型到统计语言模型，深入了解n-gram语言模型的原理、计算方法、优缺点等。

朴素贝叶斯：优点：对小规模的数据表现很好，适合多分类任务，适合增量式训练。 缺点：对输入数据的表达形式很敏感（连续数据的处理方式）。 决策树：优点：计算量简单，可解释性强，比较适合处理有缺失属性值的样本，能够处理不相关的特征。缺点：容易过拟合（后续出现了随机森林，减小了过拟合现象）。 逻辑回归：优点：实现简单，分类时计算量非常小，速度很快，存储资源低。缺点：容易欠拟合，一般准确度不高；只能处