推荐系统的架构

作者: TONYTECH | 来源:发表于2018-04-16 10:47 被阅读235次

本文从互联网收集并整理了推荐系统的架构,其中包括一些大公司的推荐系统框架(数据流存储、计算、模型应用),可以参考这些资料,取长补短,最后根据自己的业务需求,技术选型来设计相应的框架。后续持续更新并收集。。。

图1

       界面UI那一块包含3块东西:1) 通过一定方式展示推荐物品(物品标题、缩略图、简介等);2) 给的推荐理由;3) 数据反馈改进个性化推荐;

关于用户数据的存放地方:1)数据库/缓存用来实时取数据;2) hdfs文件上面;

      抽象出来的三种推荐方式:

图2 图3

  用户行为数据--->推荐引擎(第一层过滤)--->初始推荐结果--->过滤--->排名--->推荐解释--->推荐结果。

       图3中,推荐引擎的构建来源于不同的数据源(也就是用户的特征有很多种类,例如统计的、行为的、主题的)+不同的推荐模型算法,推荐引擎的架构可以试多样化的(实时推荐的+离线推荐的),然后融合推荐结果(人工规则+模型结果),融合方式多样的,有线性加权的或者切换式的等

 图4

       图4中,A模块负责用户各类型特征的收集,B模块的相关表是根据图3中的推荐引擎来生成的,B模块的输出推荐结果用来C模块的输入,中间经过过滤模块(用户已经产生行为的物品,非候选物品,业务方提供的物品黑名单等),排名模块也根据预设定的推荐目标来制定,最后推荐解释的生成(这是可能是最容易忽视,但很关键的一环,微信的好友推荐游戏,这一解释已经胜过后台的算法作用了)

优酷的推荐系统

备注:上图来至easyhadoop举办的技术沙龙中优酷数据挖掘工程师的演讲,有关详细信息请移步 http://virtual.51cto.com/exp/Hadoop_20130330/index.html#top。作者在演讲中讲的一些"干货"跟推荐议题是很有价值的,下图简单描述。

模型前数据准备(理解数据源,用户,物品)


模型策略 其他考虑的场景 淘宝的推荐系统(详细版) 淘宝的推荐系统(简单版)

总结:淘宝的推荐系统,描述了推荐引擎搭建的整体架构,包括离线的分布式计算和存储、监控、数据统计和分析、实验平台等。给我们搭建推荐引擎提供了很好的建议。整体流程大致这样。通过后台的分布式计算,将算法产生的算法结果数据存储进入一种介质中,首推hbase。然后,通过一种叫做云梯的机制将算法结果推入中间层介质中,供推荐系统在线部分调用。在线部分提供引擎和实验分流,将用户的行为数据存储进入hadoop中,数据统计分析平台由hive来搭建,主要用来分析和统计hadoop中的用户行为log。这张图不仅讲了,推荐系统的架构流程,也讲了跟这个平台有关系的人,是怎么介入的,我觉得提供的信息可很好的参考。

相关文章

  • 推荐系统

    推荐系统基础 推荐系统简介 了解推荐相关常用概念 知道推荐系统的工程架构和算法架构 知道推荐系统的常用算法 知道协...

  • 推荐系统--推荐系统架构

    推荐系统架构 花了点时间,梳理了一下公司推荐系统整个流程,这是公司正在运用的推荐系统架构。 数据获取 抽取线上业务...

  • 推荐系统--系统架构

    这段时间公司的事情比较多,没有时间继续写推荐系统相关的内容。现在继续来学习推荐系统,这篇作为推荐系统第一阶段(不知...

  • 文章推荐系统 | 二、同步业务数据

    推荐阅读:文章推荐系统 | 一、推荐流程设计 在推荐系统架构中,推荐系统的数据库和业务系统的数据库是分离的,这样才...

  • 推荐系统-架构

    关键字: MongoDB 情感分析 协同过滤推荐 评测PRF 架构思路:要有一个情感分析器,输入一段文字给出正向o...

  • 推荐系统架构

    今天带来的是推荐系统架构的总览,围绕AB测试、微服务与模型更新三大部分展开,后续会不断展开详细内容,欢迎关注! A...

  • 推荐系统的架构

    本文从互联网收集并整理了推荐系统的架构,其中包括一些大公司的推荐系统框架(数据流存储、计算、模型应用),可以参考这...

  • 推荐系统架构-1 推荐系统

    目录 一、推荐系统 1、推荐系统介绍 1.1 什么是推荐系统 1.2 推荐方法 1.3 推荐系统的应用 1.4 评...

  • 推荐系统之推荐系统架构

    1.典型的信息流架构 信息流是推荐系统应用中的当红炸子鸡,它表现形式有很多:社交网络的动态信息流、新闻阅读的图文信...

  • 推荐系统架构探讨

    本文只对推荐系统技术架构进行探讨,从头条君里面截取的推荐系统技术架构 会有很多人会联想到Spark Streami...

网友评论

    本文标题:推荐系统的架构

    本文链接:https://www.haomeiwen.com/subject/jduskftx.html