FP增长算法
2022/1/1 17:10:12
本文主要是介绍FP增长算法,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
Apriori原理:如果某个项集是频繁的,那么它的所有子集都是频繁的。
Apriori算法:
1 输入支持度阈值t和数据集 2 生成含有K个元素的项集的候选集(K初始为1) 3 对候选集每个项集,判断是否为数据集中某条记录的子集 4 如果是:增加候选集的计数 5 保留频繁集(计数>t) 6 根据频繁集生成含有K+1个元素的项集候选集 7 循环2-5,直至候选集为空
Apriori算法是有缺点的
缺点是:1.需要多次扫描数据库 2.产生大量的候选频繁集 3.时间和空间复杂度高。
从算法第3步可以看出,候选频繁项集不一定是原始数据集中某一项的子集,即:x为频繁项,y为频繁项,{x,y}可以组成一个候选频繁项集,但是原始数据集中不一定存在{x,y}的组合。这使得Apriori算法有大量时间浪费在无效的集合上。
FP树增长算法是一种挖掘频繁项集的算法。Apriori算法虽然简单易实现,效果也不错,但是需要频繁地扫描数据集,IO费用很大。FP树增长算法有效地解决了这一问题,其通过两次扫描数据集构建FP树,然后通过FP树挖掘频繁项集。
背景知识
1.什么是项和项集?
比如我们在购物的时候,购物车内的每一件商品成为一项,若干个项的集合成为项集。例如{啤酒,尿布}成为一个二元项集。
2.什么是支持度?
支持度是在所有的项集中{X,Y}出现的可能性。
例如:购买商品的数据是(表示4条购物信息):
①{啤酒,尿布,娃哈哈}
②{啤酒,方便面}
③{尿布,奶粉}
④{啤酒,尿布,洗发水}
在这组数据中,{啤酒,尿布}出现的可能性就是这里面数据的概率。{啤酒,尿布}的支持度是2/4=50%.
{尿布,奶粉}的支持度是1/4=25%
3.什么是频繁项集?
我们首先设置一个最小阈值A,支持度大于A的项集就是频繁项集,小于A的项集被剔除。
比如 我们设置阈值为30%,在上面的例子中{啤酒,尿布}就是频繁项集,{尿布,奶粉}就要被剔除。
问题:如何求出频繁项集?
首先构造FP树
然后通过FP树可以求出频繁项集
FP算法
FP增长算法需要根据数据集生成FP树,步骤如下:
步骤一:统计每个元素出现次数,保留频繁元素(假设次数>3),按照元素出 现次数降序排序。
其中h,j,p,w,v,u,n,o,q,p,e,m的次数是小于等于3的.因此把它们去掉,然后把其他的字母按照次数从大到小排列。
步骤二:构建FP树
通过上面的序列按照每一行进入树根初始化树叶。如果没有相同的字母就重新创建叶子节点,每个叶子节点有字母其次数。
如图所示
先插入(z,r),再插入(z,x,y,s,t),再插入(z),如图
最后插完的结果是:
步骤三:FP树中找到元素的前缀路径
以r为例,r的前缀路径为:以根结点为起点,结点r为终点的所有路径。
先找到FP树中所有“r”结点,然后从每一个“r”结点向根结点方向查找,找到的所有路径就是“r”的前缀路径
然而,找到所有“r”结点,需要遍历整棵FP树,这使得算法的时间复杂度会很高。
为了方便查找,可以用链表来加快寻找的前缀路径。
将FP树中所有相同的结点用链表连接,可以将查找结点的时间复杂度从O(n)降到常数级。
通过上面的操作就得到了如下所示的信息。
步骤四:根据前缀路径构造条件FP树
t的条件FP树如下:
t前缀路径中的频繁元素包括{z:3,x:3,y:3},这个数字表示对应的元素在原始数据集中和t一起出现的次数,如{z,t}出现3次,{x,t}出现3次,{y,t}出现3次。显然,这些项集都是频繁项集。
很容易发现,t的前缀路径也是一个数据集,生成t条件FP树的过程,跟前面生成FP树的过程相同,我们也可以在t的条件FP树基础上构造x的条件FP树,对应的就是{t,x}的条件FP树。
显然,这是个递归的过程。
步骤5:递归构造下一层条件FP树,直至条件FP树为空.
总结:
1、频繁集不是从FP树产生,而是通过每一层递归获得的频繁元素组合产生。FP树的作用是寻找前缀路径。 相比于Apriori算法,FP树的作用相当于是把遍历数据集的结果用树的结构保存下来,而避免了重复扫描数据集。 2、FP树只需要扫描两次数据集,第一次统计各个元素出现次数,第二次根据过滤排序后的数据集生成FP树。后续的过程都在FP树上进行。 3、{x,t}的条件FP树和{t,x}的条件FP树是否相同? 算法是否重复计算了这两个条件FP树? 这个问题涉及到FP增长算法的一个根本问题,为什么要使用前缀路径? 找到前缀路径后,需要对前缀路径集合进行过滤和排序,获得下一层递归的数据集。 那么不使用前缀路径,而使用完整路径显然也可以达到目的。 前缀路径有个非常重要的优点。 构造FP树之前由于对元素进行了排序,如果x出现在t的前缀路径中,那么t不可能再出现在x的前缀路径中,所以使用前缀路径避免了相同集合的重复计算! 另外,前缀路径的查找非常方便,一个结点向上查找,获得的前缀路径是固定的,如果使用完整路径,结点向下查找可能会出现分叉,处理起来会变得非常复杂。
这篇关于FP增长算法的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23Springboot应用的多环境打包入门
- 2024-11-23Springboot应用的生产发布入门教程
- 2024-11-23Python编程入门指南
- 2024-11-23Java创业入门:从零开始的编程之旅
- 2024-11-23Java创业入门:新手必读的Java编程与创业指南
- 2024-11-23Java对接阿里云智能语音服务入门详解
- 2024-11-23Java对接阿里云智能语音服务入门教程
- 2024-11-23JAVA对接阿里云智能语音服务入门教程
- 2024-11-23Java副业入门:初学者的简单教程
- 2024-11-23JAVA副业入门:初学者的实战指南