智能信息处理相关概念

写此文章来对课程知识进行复习。

PCA

PCA(Principal components analysis) 主成分分析是一种统计分析、简化数据的方法。利用正交变换把一系列可能线性相关的高维变量转换为一组线性不相关的低维变量。

步骤

  • 将原始矩阵按列组成n行的列矩阵X
  • 将X的每一行(代表一个属性字段)进行零均值化,即减去这一行的均值
  • 求出协方差矩阵
  • 求出协方差矩阵的特征值及对应的特征向量
  • 将特征向量按对应特征值大小从上到下按行排列成矩阵,取出前K行组成矩阵P
  • Y = PX即为降维到K维后的数据

均值化:从线性变换的本质来说,PCA就是在线性空间做一个旋转,然后取出低维子空间上的投影点来代替原本的点,以达到降维的目的。只是做了旋转,并没有平移,所以首先要保证原本空间里的点是以原点为中心分布的。

K-means聚类算法

k均值聚类算法。

步骤

  • 预将数据分为K类组,并且随机选取K个对象作为初始的聚类中心。
  • 计算每个对象和种子聚类中心的之间的距离,把每个对象分配给距离它最近的聚类中心,聚类中心以及分配给它们的对象就代表一个聚类。
  • 每分配一个对象,聚类会根据聚类中现有的对象重新计算聚类中心。这个过程不断重复。

终止条件: ①没有(或最小数目)对象被重新分配给不同的聚类 ②没有(最小数目)聚类中心发生变化 ③误差平方和局部最小

如何评估模型的好坏

K-means算法因为我们手动选取k值的缘故,我们不知道选取的k值是否合理。这时,我们可以通过SSE(Sum of Sqared Error)(误差平方和)来评估模型的好坏,它其实就是每一个对象到其聚类中心距离的平方值总和,SSE值越小,表示接近它们的质心,聚类效果越好。由于对误差取了平方,因此更加注重那些远离中心的点(一般为边界点或离群点)。一种肯定可以降低SSE值的方法是增加聚类的个数,但是这违背了聚类的目标(保持聚类数目不变的情况下提高聚类的质量)。

SVM

支持向量机,是一种二分类模型,它的基本想法是求解能够正确划分训练集并且几何间隔最大的分离超平面。

Page Rank

Pagerank是一种有搜索引擎根据网页之间相互的超链接计算的技术,它能够对网页的重要性作出客观的评价。

PR图片
Dead End是不存在外链的节点,它会导致最终rank值为0。
Spider Trap是指存在一组所有的外链都指向组内节点的节点,它会使这些节点获得很大的rank值,而大多数节点获得接近于0的rank值。

怎么在一定程度上解决死锁问题

引入阻尼系数d,其意义是:任意时刻,用户访问到某页面后继续访问下一个页面的概率,相应的1-d则是用户停止点击,随机浏览新网页的概率。d的大小一般上网者使用浏览器书签功能的频率的平均值估算得到。

缺点

Pagerank算法的主要缺点在于旧的页面的排名往往比新页面高。因为即使是质量很高的新页面也往往不会有很多的外链,除非他是某个已经存在站点的子站点。这也是Pagerank需要多项算法结合以保证其结果的准确性的原因。
例如:我们在条目名称的搜索结果中,维基百科页面经常在大多数页面甚至所有页面之前,这就是因为维基百科内部网页中存在大量的内链,同时也有很多站点链入维基百科。