大数据毕设分享大数据电商用户行为分析及可视化(源码+论文)

文章目录

0 简介

今天学长向大家介绍一个机器视觉的毕设项目，大数据电商用户行为分析及可视化(源码+论文)

项目运行效果：

毕业设计基于大数据淘宝用户行为分析

项目获取：

https://gitee.com/sinonfin/algorithm-sharing

1. 数据集说明

这是一份来自淘宝的用户行为数据，时间区间为 2017-11-25 到 2017-12-03，总计 100,150,807 条记录，大小为 3.5 G，包含 5 个字段。

2. 数据处理

2.1 数据导入

将数据加载到 hive, 然后通过 hive 对数据进行数据处理。

-- 建表droptableifexists user_behavior;createtable user_behavior (`user_id` string comment'用户ID',`item_id` string comment'商品ID',`category_id` string comment'商品类目ID',`behavior_type` string  comment'行为类型，枚举类型，包括(pv, buy, cart, fav)',`timestamp`intcomment'行为时间戳',`datetime` string comment'行为时间')row format delimited
fieldsterminatedby','linesterminatedby'\n';-- 加载数据LOADDATALOCAL INPATH '/home/getway/UserBehavior.csv'
OVERWRITE INTOTABLE user_behavior ;

2.2 数据清洗

数据处理主要包括：删除重复值，时间戳格式化，删除异常值。

--数据清洗，去掉完全重复的数据insert overwrite table user_behavior
select user_id, item_id, category_id, behavior_type,timestamp,datetimefrom user_behavior
groupby user_id, item_id, category_id, behavior_type,timestamp,datetime;--数据清洗，时间戳格式化成 datetimeinsert overwrite table user_behavior
select user_id, item_id, category_id, behavior_type,timestamp, from_unixtime(timestamp,'yyyy-MM-dd HH:mm:ss')from user_behavior;--查看时间是否有异常值selectdate(datetime)asdayfrom user_behavior groupbydate(datetime)orderbyday;--数据清洗，去掉时间异常的数据insert overwrite table user_behavior
select user_id, item_id, category_id, behavior_type,timestamp,datetimefrom user_behavior
where cast(datetimeasdate)between'2017-11-25'and'2017-12-03';--查看 behavior_type 是否有异常值select behavior_type from user_behavior groupby behavior_type;

3.数据分析可视化

3.1 用户流量及购物情况

--总访问量PV，总用户量UVselectsum(casewhen behavior_type ='pv'then1else0end)as pv,count(distinct user_id)as uv
from user_behavior;

--日均访问量，日均用户量select cast(datetimeasdate)asday,sum(casewhen behavior_type ='pv'then1else0end)as pv,count(distinct user_id)as uv
from user_behavior
groupby cast(datetimeasdate)orderbyday;

--每个用户的购物情况，加工到 user_behavior_countcreatetable user_behavior_count asselect user_id,sum(casewhen behavior_type ='pv'then1else0end)as pv,--点击数sum(casewhen behavior_type ='fav'then1else0end)as fav,--收藏数sum(casewhen behavior_type ='cart'then1else0end)as cart,--加购物车数sum(casewhen behavior_type ='buy'then1else0end)as buy  --购买数from user_behavior
groupby user_id;--复购率：产生两次或两次以上购买的用户占购买用户的比例selectsum(casewhen buy >1then1else0end)/sum(casewhen buy >0then1else0end)from user_behavior_count;

小结：2017-11-25 到 2017-12-03 这段时间，PV 总数为 89,660,671 ，UV 总数为 987,991。从日均访问量趋势来看，进入 12 月份之后有一个比较明显的增长，猜测可能是因为临近双 12 ，电商活动引流产生，另外，2017-12-02 和 2017-12-03 刚好是周末，也可能是周末的用户活跃度本来就比平常高。总体的复购率为 66.01%，说明用户的忠诚度比较高。

3.2 用户行为转换率

--点击/(加购物车+收藏)/购买 , 各环节转化率select a.pv,
       a.fav,
       a.cart,
       a.fav + a.cart as`fav+cart`,
       a.buy,round((a.fav + a.cart)/ a.pv,4)as pv2favcart,round(a.buy /(a.fav + a.cart),4)as favcart2buy,round(a.buy / a.pv,4)as pv2buy
from(selectsum(pv)as pv,--点击数sum(fav)as fav,--收藏数sum(cart)as cart,--加购物车数sum(buy)as buy  --购买数from user_behavior_count
)as a;

小结：2017-11-25 到 2017-12-03 这段时间，点击数为 89,660,671 ，收藏数为 2,888,258，加购物车数为5,530,446，购买数为 2,015,807。总体的转化率为 2.25%，这个值可能是比较低的，从加到购物车数来看，有可能部分用户是准备等到电商节日活动才进行购买。所以合理推断：一般电商节前一段时间的转化率会比平常低。

3.3 用户行为习惯

-- 一天的活跃时段分布selecthour(datetime)ashour,sum(casewhen behavior_type ='pv'then1else0end)as pv,--点击数sum(casewhen behavior_type ='fav'then1else0end)as fav,--收藏数sum(casewhen behavior_type ='cart'then1else0end)as cart,--加购物车数sum(casewhen behavior_type ='buy'then1else0end)as buy  --购买数from user_behavior
groupbyhour(datetime)orderbyhour;

--一周用户的活跃分布select pmod(datediff(datetime,'1920-01-01')-3,7)as weekday,sum(casewhen behavior_type ='pv'then1else0end)as pv,--点击数sum(casewhen behavior_type ='fav'then1else0end)as fav,--收藏数sum(casewhen behavior_type ='cart'then1else0end)as cart,--加购物车数sum(casewhen behavior_type ='buy'then1else0end)as buy  --购买数from user_behavior
wheredate(datetime)between'2017-11-27'and'2017-12-03'groupby pmod(datediff(datetime,'1920-01-01')-3,7)orderby weekday;

小结：晚上21点-22点之间是用户一天中最活跃的时候，凌晨 4 点，则是活跃度最低的时候。一周中，工作日活跃度都差不多，到了周末活跃度有明显提高。

3.4 基于 RFM 模型找出有价值的用户

RFM 模型是衡量客户价值和客户创利能力的重要工具和手段，其中由3个要素构成了数据分析最好的指标，分别是：

R-Recency（最近一次购买时间）
F-Frequency（消费频率）
M-Money（消费金额）

--R-Recency（最近一次购买时间）, R值越高，一般说明用户比较活跃select user_id,
       datediff('2017-12-04',max(datetime))as R,
       dense_rank()over(orderby datediff('2017-12-04',max(datetime)))as R_rank
from user_behavior
where behavior_type ='buy'groupby user_id
limit10;--F-Frequency（消费频率）, F值越高，说明用户越忠诚select user_id,count(1)as F,
       dense_rank()over(orderbycount(1)desc)as F_rank
from user_behavior
where behavior_type ='buy'groupby user_id
limit10;--M-Money（消费金额），数据集无金额，所以就不分析这一项

对有购买行为的用户按照排名进行分组，共划分为5组，
前 - 1/5 的用户打5分
前 1/5 - 2/5 的用户打4分
前 2/5 - 3/5 的用户打3分
前 3/5 - 4/5 的用户打2分
前 4/5 - 的用户打1分
按照这个规则分别对用户时间间隔排名打分和购买频率排名打分，最后把两个分数合并在一起作为该名用户的最终评分

with cte as(select user_id,
       datediff('2017-12-04',max(datetime))as R,
       dense_rank()over(orderby datediff('2017-12-04',max(datetime)))as R_rank,count(1)as F,
       dense_rank()over(orderbycount(1)desc)as F_rank
from user_behavior
where behavior_type ='buy'groupby user_id)select user_id, R, R_rank, R_score, F, F_rank, F_score,  R_score + F_score AS score
from(select*,case ntile(5)over(orderby R_rank)when1then5when2then4when3then3when4then2when5then1endas R_score,case ntile(5)over(orderby F_rank)when1then5when2then4when3then3when4then2when5then1endas F_score
from cte
)as a
orderby score desclimit20;

小结：可以根据用户的价值得分，进行个性化的营销推荐。

3.5 商品维度的分析

--销量最高的商品select item_id ,sum(casewhen behavior_type ='pv'then1else0end)as pv,--点击数sum(casewhen behavior_type ='fav'then1else0end)as fav,--收藏数sum(casewhen behavior_type ='cart'then1else0end)as cart,--加购物车数sum(casewhen behavior_type ='buy'then1else0end)as buy  --购买数from user_behavior
groupby item_id
orderby buy desclimit10;--销量最高的商品大类select category_id ,sum(casewhen behavior_type ='pv'then1else0end)as pv,--点击数sum(casewhen behavior_type ='fav'then1else0end)as fav,--收藏数sum(casewhen behavior_type ='cart'then1else0end)as cart,--加购物车数sum(casewhen behavior_type ='buy'then1else0end)as buy  --购买数from user_behavior
groupby category_id
orderby buy desclimit10;

小结：缺失商品维表，所以没有太多分析价值。假如有商品维表，可以再展开，以商品纬度进行分析，比如不同行业、不同产品的转化率，还有竞品分析等等。