0
0

毕设 大数据电影数据分析与可视化系统

文章目录

0 简介

今天学长向大家介绍一个机器视觉的毕设项目

🚩基于大数据的电影数据分析与可视化系统

项目运行效果(视频)：

毕业设计 大数据电影评论情感分析

🧿 项目分享:见文末!

1 课题背景

研究中国用户电影数据,有助于窥探中国电影市场发展背后的规律,理解其来龙去脉,获知未来走向。如今互联网上中国用户的电影数据集缺失,缺少如MovieLens、Kaggle等独立机构完成长期收集电影数据工作,研究人员只能自行收集或下载来自国外的公共电影数据集,不具有本地属性。
本项目爬取豆瓣网相关电影信息，建立数据库。并根据此数据库进行了可视化分析,从中提取出大量数据背后信息,多维度分析了电影在公映时间、观众分布、类别占比、各国市场情况的关系,从评论词云、文本情感角度挖掘单部电影呈现的规律。

2 效果实现

评论情感得分随时间变化情况如下

在这里插入图片描述

在这里插入图片描述

热门评论列表情况如下
在这里插入图片描述

3 爬虫及实现

简介
网络爬虫是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。爬虫对某一站点访问，如果可以访问就下载其中的网页内容，并且通过爬虫解析模块解析得到的网页链接，把这些链接作为之后的抓取目标，并且在整个过程中完全不依赖用户，自动运行。若不能访问则根据爬虫预先设定的策略进行下一个 URL的访问。在整个过程中爬虫会自动进行异步处理数据请求，返回网页的抓取数据。在整个的爬虫运行之前，用户都可以自定义的添加代理，伪 装 请求头以便更好地获取网页数据。
爬虫流程图如下：
在这里插入图片描述
部分代码实现

  1. import re
  2. import requests
  3. import json
  4. import time
  5. from openpyxl import load_workbook, Workbook
  6. from requests import RequestException
  8. defget_detail_page(html):try:
  9.         headers ={"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36"}
  10.         cookies ={}
  11.         response = requests.get(url=html, headers=headers, cookies=cookies)
  12.         response.encoding ='utf-8'if response.status_code ==200:return response.text
  13.         returnNoneexcept RequestException:print('获取详情页错误')
  14.         time.sleep(3)return get_detail_page(html)defparse_index_page(html):
  15.     html = get_detail_page(html)
  16.     html = html[12:-1]
  17.     data = json.loads(html)
  18.     id_list =[]if data:for item in data:
  19.             id_list.append(item['url'])return id_list
  21. defparse_detail_page(data):
  22.     html = get_detail_page(data)
  23.     info =[]# 获取电影名称
  24.     name_pattern = re.compile('<span property="v:itemreviewed">(.*?)</span>')
  25.     name = re.findall(name_pattern, html)
  26.     info.append(name[0])# 获取评分
  27.     score_pattern = re.compile('rating_num" property="v:average">(.*?)</strong>')
  28.     score = re.findall(score_pattern, html)
  29.     info.append(score[0])# 获取导演
  30.     director_pattern = re.compile('rel="v:directedBy">(.*?)</a>')
  31.     director = re.findall(director_pattern, html)print(director)
  32.     info.append(str(director[0]))# 获取演员
  33.     actor_pattern = re.compile('rel="v:starring">(.*?)</a>')
  34.     actor = re.findall(actor_pattern, html)
  35.     info.append(str(actor[0]))# 获取年份
  36.     year_pattern = re.compile('<span class="year">\((.*?)\)</span>')
  37.     year = re.findall(year_pattern, html)
  38.     info.append(year[0])# 获取类型
  39.     type_pattern = re.compile('property="v:genre">(.*?)</span>')type= re.findall(type_pattern, html)
  40.     info.append(type[0].split(' /')[0])# 获取时长try:
  41.         time_pattern = re.compile('property="v:runtime" content="(.*?)"')
  42.         time = re.findall(time_pattern, html)
  43.         info.append(time[0])except:
  44.         info.append('1')# 获取语言
  45.     language_pattern = re.compile('pl">语言:</span>(.*?)<br/>')
  46.     language = re.findall(language_pattern, html)
  47.     info.append(language[0].split(' /')[0])# 获取评价人数
  48.     comment_pattern = re.compile('property="v:votes">(.*?)</span>')
  49.     comment = re.findall(comment_pattern, html)
  50.     info.append(comment[0])# 获取地区
  51.     area_pattern = re.compile(' class="pl">制片国家/地区:</span>(.*?)<br/>')
  52.     area = re.findall(area_pattern, html)
  53.     info.append(area[0].split(' /')[0])return info
  55. html ='https://movie.douban.com/j/search_subjects?type=movie&tag=%E5%86%B7%E9%97%A8%E4%BD%B3%E7%89%87&sort=rank&page_limit=20&page_start='
  57. wc = Workbook()
  58. sheet = wc.active
  59. sheet.title ="New"
  60. ws = wc['New']
  61. sheet['A1']='name'
  62. sheet['B1']='score'
  63. sheet['C1']='director'
  64. sheet['D1']='actor'
  65. sheet['E1']='year'
  66. sheet['F1']='type'
  67. sheet['G1']='time'
  68. sheet['H1']='language'
  69. sheet['I1']='comment'
  70. sheet['J1']='area'
  71. ws = wc[wc.sheetnames[0]]
  72. wc.save('豆瓣电影.xlsx')
  74. ti =1for i inrange(20,50):print(i)
  75.     html1 = html+str(i*20)
  76.     u = parse_index_page(html1)print(u)for t in u:
  77.         time.sleep(0.5)
  78.         b = parse_detail_page(t)print(b)
  79.         ws.append(b)
  80.         wc.save('豆瓣电影.xlsx')
  81.         ti +=1

4 Flask框架

简介
Flask是一个基于Werkzeug和Jinja2的轻量级Web应用程序框架。与其他同类型框架相比，Flask的灵活性、轻便性和安全性更高，而且容易上手，它可以与MVC模式很好地结合进行开发。Flask也有强大的定制性，开发者可以依据实际需要增加相应的功能，在实现丰富的功能和扩展的同时能够保证核心功能的简单。Flask丰富的插件库能够让用户实现网站定制的个性化，从而开发出功能强大的网站。

Flask项目结构图
在这里插入图片描述
部分相关代码

  1. from flask import Flask, render_template, jsonify
  2. import requests
  3. from bs4 import BeautifulSoup
  4. from snownlp import SnowNLP
  5. import jieba
  6. import numpy as np
  8. app = Flask(__name__)
  9. app.config.from_object('config')# 中文停用词
  10. STOPWORDS =set(map(lambda x: x.strip(),open(r'./stopwords.txt', encoding='utf8').readlines()))
  12. headers ={'accept':"text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9",'accept-language':"en-US,en;q=0.9,zh-CN;q=0.8,zh-TW;q=0.7,zh;q=0.6",'cookie':'ll="108296"; bid=ieDyF9S_Pvo; __utma=30149280.1219785301.1576592769.1576592769.1576592769.1; __utmc=30149280; __utmz=30149280.1576592769.1.1.utmcsr=(direct)|utmccn=(direct)|utmcmd=(none); _vwo_uuid_v2=DF618B52A6E9245858190AA370A98D7E4|0b4d39fcf413bf2c3e364ddad81e6a76; ct=y; dbcl2="40219042:K/CjqllYI3Y"; ck=FsDX; push_noty_num=0; push_doumail_num=0; douban-fav-remind=1; ap_v=0,6.0','host':"search.douban.com",'referer':"https://movie.douban.com/",'sec-fetch-mode':"navigate",'sec-fetch-site':"same-site",'sec-fetch-user':"?1",'upgrade-insecure-requests':"1",'user-agent':"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3945.88 Safari/537.36 Edg/79.0.309.56"}
  14. login_name =None# --------------------- html render ---------------------@app.route('/')defindex():return render_template('index.html')@app.route('/search')defsearch():return render_template('search.html')@app.route('/search/<movie_name>')defsearch2(movie_name):return render_template('search.html')@app.route('/hot_movie')defhot_movie():return render_template('hot_movie.html')@app.route('/movie_category')defmovie_category():return render_template('movie_category.html')# ------------------ ajax restful api -------------------@app.route('/check_login')defcheck_login():"""判断用户是否登录"""return jsonify({'username': login_name,'login': login_name isnotNone})@app.route('/register/<name>/<pasw>')defregister(name, pasw):
  15.     conn = sqlite3.connect('user_info.db')
  16.     cursor = conn.cursor()
  18.     check_sql ="SELECT * FROM sqlite_master where type='table' and name='user'"
  19.     cursor.execute(check_sql)
  20.     results = cursor.fetchall()# 数据库表不存在iflen(results)==0:# 创建数据库表
  21.         sql ="""
  22.                 CREATE TABLE user(
  23.                     name CHAR(256),
  24.                     pasw CHAR(256)
  25.                 );
  26.                 """
  27.         cursor.execute(sql)
  28.         conn.commit()print('创建数据库表成功！')
  30.     sql ="INSERT INTO user (name, pasw) VALUES (?,?);"
  31.     cursor.executemany(sql,[(name, pasw)])
  32.     conn.commit()return jsonify({'info':'用户注册成功！','status':'ok'})@app.route('/login/<name>/<pasw>')deflogin(name, pasw):global login_name
  33.     conn = sqlite3.connect('user_info.db')
  34.     cursor = conn.cursor()
  36.     check_sql ="SELECT * FROM sqlite_master where type='table' and name='user'"
  37.     cursor.execute(check_sql)
  38.     results = cursor.fetchall()# 数据库表不存在iflen(results)==0:# 创建数据库表
  39.         sql ="""
  40.                 CREATE TABLE user(
  41.                     name CHAR(256),
  42.                     pasw CHAR(256)
  43.                 );
  44.                 """
  45.         cursor.execute(sql)
  46.         conn.commit()print('创建数据库表成功！')
  48.     sql ="select * from user where name='{}' and pasw='{}'".format(name, pasw)
  49.     cursor.execute(sql)
  50.     results = cursor.fetchall()
  52.     login_name = name
  53.     iflen(results)>0:return jsonify({'info': name +'用户登录成功！','status':'ok'})else:return jsonify({'info':'当前用户不存在！','status':'error'})

5 Ajax技术

Ajax 是一种独立于 Web 服务器软件的浏览器技术。

Ajax使用 JavaScript 向服务器提出请求并处理响应而不阻塞的用户核心对象XMLHttpRequest。通过这个对象，您的 JavaScript 可在不重载页面的情况与 Web 服务器交换数据，即在不需要刷新页面的情况下，就可以产生局部刷新的效果。

前端将需要的参数转化为JSON字符串，再通过get/post方式向服务器发送一个请并将参数直接传递给后台，后台对前端请求做出反应，接收数据，将数据作为条件查询，但会j’son字符串格式的查询结果集给前端，前端接收到后台返回的数据进行条件判断并作出相应的页面展示。

  1. $.ajax({
  2.                 url:'http://127.0.0.1:5000/updatePass',
  3.                 type:"POST",
  4.                 data:JSON.stringify(data.field),
  5.                 contentType:"application/json; charset=utf-8",
  6.                 dataType:"json",success:function(res){if(res.code ==200){
  7.                         layer.msg(res.msg,{icon:1});}else{
  8.                         layer.msg(res.msg,{icon:2});}}})

6 Echarts

ECharts（Enterprise Charts）是百度开源的数据可视化工具，底层依赖轻量级Canvas库ZRender。兼容了几乎全部常用浏览器的特点，使它可广泛用于PC客户端和手机客户端。ECharts能辅助开发者整合用户数据，创新性的完成个性化设置可视化图表。支持折线图（区域图）、柱状图（条状图）、散点图（气泡图）、K线图、饼图（环形图）等，通过导入 js 库在 Java Web 项目上运行。

7 最后

🧿 项目分享:见文末!

标签： python 毕设 毕业设计
本文转载自: https://blog.csdn.net/mofcjdsi/article/details/142756259
版权归原作者 mofcjdsi 所有， 如有侵权，请联系我们删除。
登录后发布评论

“毕设 大数据电影数据分析与可视化系统”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

网络安全法-网络运行安全

使用selenium/drissionpage时如何阻止chrome自动跳转http到https

docker desktop 里部署的Open WebUI 管理员密码忘记了的处理方法

在ubuntu20.04中搭建onsite比赛运行环境

利用开源的低代码表单设计器FcDesigner高效管理和渲染复杂表单结构

Kafka学习笔记

【前端】浏览器输入url到页面呈现发生了什么？