生活工程体验信仰哲学精神
投稿投诉
精神世界
探索历史
哲学文学
艺术价值
信仰创造
境界审美
体验技术
技能工具
工程信息
医学生产
生活运用
操作能力

数据和算法的相爱相杀二常见的聚类算法

5月1日 火云谷投稿
  以下是数据与算法相爱相杀的第二篇,常见的聚类算法。如果按正常的数据和算法知识体系,这时候应该讲一下常用的数据查询或算法的数学基础,但是观众老爷多是PM,恐不感兴趣或没有基础。所以我就从应用和实战的角度给大家直接上干货,在过程中介绍其用到的数学或计算机知识。
  聚类算法应该是大数据分析中最常见一类算法,在一般互联网公司中,哪怕不借助算法,我们也经常需要对用户、客户进行分类,进行人群画像,以支持差异化服务或营销。所以说聚类这件事情我们一直在做,而借助数据规模和算法优势则可以让我们分类更加精准、多元、客观。
  常见的聚类算法包括:层次化聚类算法、划分式聚类算法、基于密度的聚类算法、基于网格的聚类算法、基于模型的聚类算法等,以及现在比较火的基于粒度的聚类等。
  我没有打算做聚类算法的科普,也不做其发展来龙去脉的论文,就从一般互联网公司能用到,各位看官可以拿来就用的角度分享一下常见的算法。
  1、基于空间测距的kmeans算法系列
  kmeans算法是一种经典的分类算法,它的基本原理是,视所有的数据为多维空间的点,如一名普通用户(拥有:月消费频次、消费金额、最近一次消费时间等众多的消费数据),他每一个我们用于分析的数据都看作是一个维度。
  这样我们就得出了该用户的位置,通过定义数个(即k个)中心点(中心点由机器随机寻找),测算用户与各中心点的距离并进行比较,将该用户加入距离最近的中心点,这样就形成了不同的圈层。
  明眼的观众可能已经看到,如果某点对所有中心点距离的最小值存在相同的,那这个点应该加入哪个圈层呢?
  这时候就原来的中心点变成圈层的几何中心,从新测算距离,直到所有的点全包包含在某一个圈层中。
  kmeans算法的优点是简单高效、时间复杂度、空间复杂度都比较低,而且对于数据规模也不感冒,这对追求效率和消费者体验的互联网公司至关重要。
  但是其需要预设k值,k值的选择会很大程度上影响聚类,用户数据缺失的情况对结果也有很大影响,同时对脏数据和离群值也很敏感。所以人们又改良了kmeans算法,具体如下,大家选择学习。
  为了解决预设k值不准确问题,延伸出了kmeans等众多算法。其基本原理是:在选择初始中心之前,对所有数据进行一次计算,使得选择的初始聚类中心之间的距离尽可能的远,同时也减少了计算量。
  2、基于空间测距的CURE算法
  层次聚类的核心原理是:先将每个对象作为一个组(簇),然后根据两两之间的距离合并这些原子组为越来越大的组,直到所有对象都在一个组中,或者条件满足(达到了你想要的组个数)。
  它的计算流程是:每个对象作为一类,计算两者这件最小距离将两个合并成一个新类,形成新的中心计算所有类之间的距离,然后两两合并直到合并完成或达到要求。
  常见的层次聚类算法有:CURE算法、ROCK算法等,其基本原理都一样,不过是各有所长。
  3、基于密度划分的DBSCAN算法
  上文中我们讲到了基于空间距离的聚类算法,这类算法最终形成的多是圆形的元素类,而基于度划分的DBSCAN算法核心是:预先定义两个变量,一个表示球形的半径,一个表示球形内的点。
  只要一个区域中的点的密度(即:球内的点球的体积)大过某个阈值,就把球形相近的点加到与之相近的聚类中去。
  在DBSCAN中的点分为核心点:在球形范围核心(稠密)的点;
  边界点:处于球形边界之内,但离核心较远的点,处于球形范围之外的点。
  DBSCAN也存在一定的缺陷,一方面是对于高维数据不能很好的反映,另一方面是在聚类密度不断变化的数据集中,不能很好地反映整体聚类情况。
  以上几种算法,基本够PM们在日常使用,启迪思维,方便交流。
  除了以上几种常用的聚类分析算法之外,还有一些聚类算法(均值漂移算法、网格算法、模型算法),如果大家有时间可以查找资继续学习。
  相关阅读
  数据和算法的相爱相杀(一):获取数据要注意什么?
投诉 评论 转载

数据和算法的相爱相杀二常见的聚类算法以下是数据与算法相爱相杀的第二篇,常见的聚类算法。如果按正常的数据和算法知识体系,这时候应该讲一下常用的数据查询或算法的数学基础,但是观众老爷多是PM,恐不感兴趣或没有基础。所……关于进餐有问题的孩子家长需做好持久战准备很多孩子存在一种饭来张口的不良饮食习惯,存在厌食、偏食,饭前过量吃零食等现象,这些不良进餐习惯将会影响幼儿身体的正常发育,家长也因此而深感头痛。那么,关于进餐有问题的孩子,家长……客厅的烟感器能不能关闭它在内外电离室里面有放射源镅241,电离产生的正、负离子,在电场的作用下各自向正负电极移动。在正常的情况下,内外电离室的电流、电压都是稳定的。一旦有烟雾窜逃外电离室,干扰了带电……黑胶唱片的新玩法有一个叫做SleeveFace的网站,上面有各种各样新鲜好玩的唱片合影,网友们将自己和唱片融为一体,赋予黑胶唱片一个崭新的呈现方式。像约翰列侬、鲍勃马利、麦当娜这样的音乐……北刘寄奴别名:刘寄奴、金钟茵陈、灵茵草。性味:苦,寒。归经:归脾、胃、肝、胆经。入药部位:为玄参科植物阴行草SiphonostegiachinensisBenth。的……国产动漫熊出没剧中至今无法解释的三大未解之迷太不国产动漫《熊出没》剧中至今解释不了的三大谜团,太不可思议了《熊出没》是深圳华强数字动漫有限公司拍摄的动漫作品2012年开播以来,就一直受到广大动漫迷追捧,三位主角分别是光……如何提意见在本文中:端正态度倾听对方的难处提出好意见跟进给他人提意见不是件简单的事。你可能会有压力,生怕自己的意见不正确(虽然是无意造成的)。按照本文的提示,你就能很快成为一个意见……微商怎么快速加好友添加精准人脉怎样引流到精准粉丝微商怎么快速加好友添加精准人脉?怎样引流到精准粉丝?你想月入10000,就该知晓这些推广方法今天给大家分析下微商的流量从哪里来?天天刷朋友圈没有意思,总得换点新鲜血……是把造句用是把造句大全91、每个人都活着,但有的人活在过去的记忆中,有的人活在对未来的痴想中,只有活在今天的人,是把自己的一生掌握在手中。92、第一代创业的企业家都把工作当事业来做,而一般领导……这就是我一头乌黑发亮的长发,有点儿天然卷曲,扎成了一个高高的马尾辫,走起路来一甩一甩的,俏皮又可爱。白白净净的鹅蛋脸上,一双水汪汪的大眼睛忽闪忽闪的,透着聪明和灵气。嗨,大家好!这就是……照片的故事在我的影集里,有一张珍贵的照片,是一位穿着粉红色衣服的女孩,嘴角带着一丝微笑站在里面,身后还有一头小牛。那是一年前我和同学们一起去汉北堤对岸游玩时的照片。那是一个天气晴朗……警惕宝宝季节性情感障碍家住水心的王女士这两天被女儿弄得头疼不已,往日听话的女儿最近不知道怎么回事,老是吵着不愿意去上学了,说老师对她不好,小朋友们都欺负她,在家里也经常要发小脾气,没事时就一个人呆在……
中药美白方有哪些呢三毛撒哈拉的故事主要内容是什么简介属鼠的想用五谷起小名发怒造句用发怒造句大全童年现实微软脸书等独角兽公司创始人工作时间如何管理永远的爱读希望下辈子在一起有感通古斯是什么民族历史上通古斯人建立了哪些政权不做冷美人个妙招摆脱手脚冰凉国外普洱茶的研究成果临夏现代妇科医院等机构骗保案伪造病历虚假住院有的我被成就感撞了一下腰

友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找