鱼C论坛

 找回密码
 立即注册
查看: 1615|回复: 6

[技术交流] python实现Apriori**

[复制链接]
发表于 2020-11-18 15:23:43 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 糖逗 于 2020-11-18 15:35 编辑

参考书籍:《机器学习实战》

  1. import numpy as np

  2. def loadDataSet():
  3.     return [[1, 3, 4], [2, 3, 5], [1, 2, 3, 5], [2, 5]]

  4. def createC1(dataSet):
  5.     C1 = []
  6.     for transaction in dataSet:
  7.         for item in transaction:#遍历list中的每个list中的元素
  8.             if not [item] in C1:#为了使用frozenset对每个元素映射,用[item]
  9.                 C1.append([item])
  10.     C1.sort()#从小到大排序
  11.     #https://www.runoob.com/python/python-func-frozenset.html
  12.     return list(map(frozenset, C1))#之后要将集合作为字典键使用,frozenset可以实现而set不行

  13. def scanD(D, Ck, minSupport):
  14.     ssCnt = {}
  15.     for tid in D:
  16.         for can in Ck:
  17.             #https://www.runoob.com/python3/ref-set-issubset.html
  18.             if can.issubset(tid):
  19.                 if can not in ssCnt:
  20.                     ssCnt[can] = 1
  21.                 else:
  22.                     ssCnt[can] += 1
  23.     numItems = float(len(D))
  24.     retList = []
  25.     supportData = {}
  26.     for key in ssCnt:#遍历每个键
  27.         support = ssCnt[key]/numItems
  28.         if support >= minSupport:
  29.             retList.insert(0, key)#每次在最前面加入
  30.         supportData[key] = support
  31.     return retList, supportData#返回满足支持度阈值的元素和所有元素支持度

  32. def aprioriGen(Lk, k):
  33.     retList = []
  34.     lenLk = len(Lk)
  35.     for i in range(lenLk):
  36.         for j in range(i + 1, lenLk):
  37.             L1 = list(Lk[i])[: k - 2]#前k-2个相同时,将两个集合合并,这样做会漏项吧??
  38.             L2 = list(Lk[j])[: k - 2]
  39.             L1.sort()
  40.             L2.sort()
  41.             if L1 == L2:
  42.                 retList.append(Lk[i] | Lk[j])#集合合并
  43.     return retList

  44. def apriori(dataSet, minSupport = 0.5):
  45.     C1 = createC1(dataSet)
  46.     D = list(map(set, dataSet))
  47.     L1, supportData = scanD(D, C1, minSupport)
  48.     L = [L1]
  49.     k = 2#作为L中的index,k生成的组合数
  50.     while (len(L[k - 2]) > 0):
  51.         Ck = aprioriGen(L[k - 2], k)
  52.         Lk, supK = scanD(D, Ck, minSupport)
  53.         supportData.update(supK)
  54.         L.append(Lk)
  55.         k += 1
  56.     return L, supportData

  57. def generateRules(L, supportData, minConf = 0.7):#生成关联规则
  58.     bigRuleList = []#L已经经过了第一次minsupport筛选了,相当于剪枝
  59.     for i in range(1, len(L)):
  60.         for freqSet in L[i]:
  61.             H1 = [frozenset([item]) for item in freqSet]
  62.             if (i > 1):#元素超过两个以上的需要建立规则
  63.                 rulesFromConseq(freqSet, H1, supportData, bigRuleList, minConf)
  64.             else:
  65.                 calcConf(freqSet, H1, supportData, bigRuleList, minConf)
  66.     return bigRuleList         

  67. def calcConf(freqSet, H, supportData, brl, minConf = 0.7):#可信度值计算,H是freqSet的子集
  68.     prunedH = []
  69.     for conseq in H:
  70.         conf = supportData[freqSet]/supportData[freqSet-conseq]
  71.         if conf >= minConf:
  72.             print(freqSet-conseq,'-->',conseq,'conf:', conf)
  73.             brl.append((freqSet-conseq, conseq, conf))
  74.             prunedH.append(conseq)
  75.     return prunedH

  76. def rulesFromConseq(freqSet, H, supportData, brl, minConf = 0.7):
  77.     m = len(H[0])
  78.     if (len(freqSet) > (m + 1)): #因为后文需要将集合合并成一个每组m+1的集合,所以m+1要小于freqSet
  79.         Hmp1 = aprioriGen(H, m + 1)
  80.         Hmp1 = calcConf(freqSet, Hmp1, supportData, brl, minConf)
  81.         if (len(Hmp1) > 1):#假设2->1,3 ; 3->1,2;则想进一步验证2,3 -> 1
  82.             rulesFromConseq(freqSet, Hmp1, supportData, brl, minConf)
  83.     return

  84. if __name__ == "__main__":
  85.     dataSet = loadDataSet()
  86.     L, suppData = apriori(dataSet, minSupport = 0.5)
  87.     rules = generateRules(L, suppData, minConf = 0.7)
复制代码

评分

参与人数 1荣誉 +5 鱼币 +5 贡献 +3 收起 理由
昨非 + 5 + 5 + 3 无条件支持楼主!

查看全部评分

本帖被以下淘专辑推荐:

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2020-11-18 15:24:17 | 显示全部楼层
需要再看一遍,这个代码有点复杂。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-18 15:35:58 | 显示全部楼层
宝藏鱼友啊
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-11-18 15:37:09 | 显示全部楼层

好书和好内容应该大家一起分享嘛
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-18 15:39:11 | 显示全部楼层
糖逗 发表于 2020-11-18 15:37
好书和好内容应该大家一起分享嘛

鉴定完毕,盲猜是竞赛大佬

膜!!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2020-11-18 19:29:33 | 显示全部楼层
昨非 发表于 2020-11-18 15:39
鉴定完毕,盲猜是竞赛大佬

膜!!

不是的,这是书里代码
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2020-11-18 19:35:38 | 显示全部楼层
糖逗 发表于 2020-11-18 19:29
不是的,这是书里代码

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-6-6 08:28

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表