当前位置: 首页 > news >正文

商城网站如何建设方案优化营商环境发言稿

商城网站如何建设方案,优化营商环境发言稿,wordpress微信快速登录,网站域名怎么取本文以Python爬虫、数据分析、后端、数据挖掘、全栈开发、运维开发、高级开发工程师、大数据、机器学习、架构师这10个岗位,从拉勾网上爬取了相应的职位信息和任职要求,并通过数据分析可视化,直观地展示了这10个职位的平均薪资和学历、工作经…

在这里插入图片描述

本文以Python爬虫、数据分析、后端、数据挖掘、全栈开发、运维开发、高级开发工程师、大数据、机器学习、架构师这10个岗位,从拉勾网上爬取了相应的职位信息和任职要求,并通过数据分析可视化,直观地展示了这10个职位的平均薪资和学历、工作经验要求。

文章很长,耐心观看。

01

爬虫准备

1、先获取薪资和学历、工作经验要求

由于某网数据加载是动态加载的,需要我们分析。分析方法如下:

在这里插入图片描述

F12分析页面数据存储位置

我们发现网页内容是通过post请求得到的,返回数据是json格式,那我们直接拿到json数据即可。

我们只需要薪资和学历、工作经验还有单个招聘信息,返回json数据字典中对应的英文为:positionId,salary, education, workYear(positionId为单个招聘信息详情页面编号)。相关操作代码如下:

  • 文件存储:
def file_do(list_info):# 获取文件大小file_size = os.path.getsize(r'G:\lagou_anv.csv')if file_size == 0:# 表头name = ['ID','薪资', '学历要求', '工作经验']# 建立DataFrame对象file_test = pd.DataFrame(columns=name, data=list_info)# 数据写入file_test.to_csv(r'G:\lagou_anv.csv', encoding='gbk', index=False)else:with open(r'G:\lagou_anv.csv', 'a+', newline='') as file_test:# 追加到文件后面writer = csv.writer(file_test)# 写入文件writer.writerows(list_info)
  • 基本数据获取:
# 1. post 请求 url
req_url = 'https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false'
# 2.请求头 headers
headers = {'Accept': 'application/json,text/javascript,*/*;q=0.01','Connection': 'keep-alive','Cookie': '你的Cookie值,必须加上去','Host': 'www.lagou.com','Referer': 'https://www.lagou.com/jobs/list_Python?labelWords=&fromSearch=true&suginput=','User-Agent':  str(UserAgent().random),
}def get_info(headers):# 3.for 循环请求(一共30页)for i in range(1, 31):# 翻页data = {'first': 'true','kd': 'Python爬虫','pn': i}# 3.1 requests 发送请求req_result = requests.post(req_url, data=data, headers=headers)req_result.encoding = 'utf-8'print("第%d页:"%i+str(req_result.status_code))# 3.2 获取数据req_info = req_result.json()# 定位到我们所需数据位置req_info = req_info['content']['positionResult']['result']print(len(req_info))list_info = []# 3.3 取出具体数据for j in range(0, len(req_info)):salary = req_info[j]['salary']education = req_info[j]['education']workYear = req_info[j]['workYear']positionId = req_info[j]['positionId']list_one = [positionId,salary, education, workYear]list_info.append(list_one)print(list_info)# 存储文件file_do(list_info)time.sleep(1.5)
  • 运行结果:

图片

2、根据获取到的positionId 来访问招聘信息详细页面

  • 根据positionId还原访问链接:
position_url = []
def read_csv():# 读取文件内容with open(r'G:\lagou_anv.csv', 'r', newline='') as file_test:# 读文件reader = csv.reader(file_test)i = 0for row in reader:if i != 0 :# 根据positionID补全链接url_single = "https://www.lagou.com/jobs/%s.html"%row[0]position_url.append(url_single)i = i + 1print('一共有:'+str(i-1)+'个')print(position_url)
  • 访问招聘信息详情页面,获取职位描述(岗位职责和岗位要求)并清理数据:
def get_info():for position_url in position_urls:work_duty = ''work_requirement = ''response00 = get_response(position_url,headers = headers)time.sleep(1)content = response00.xpath('//*[@id="job_detail"]/dd[2]/div/p/text()')# 数据清理j = 0for i in range(len(content)):content[i] = content[i].replace('\xa0',' ')if content[i][0].isdigit():if j == 0:content[i] = content[i][2:].replace('、',' ')content[i] = re.sub('[;;.0-9。]','', content[i])work_duty = work_duty+content[i]+ '/'j = j + 1elif content[i][0] == '1' and not content[i][1].isdigit():breakelse:content[i] = content[i][2:].replace('、', ' ')content[i] = re.sub('[、;;.0-9。]','',content[i])work_duty = work_duty + content[i]+ '/'m = i# 岗位职责write_file(work_duty)print(work_duty)# 数据清理j = 0for i in range(m,len(content)):content[i] = content[i].replace('\xa0',' ')if content[i][0].isdigit():if j == 0:content[i] = content[i][2:].replace('、', ' ')content[i] = re.sub('[、;;.0-9。]', '', content[i])work_requirement = work_requirement + content[i] + '/'j = j + 1elif content[i][0] == '1' and not content[i][1].isdigit():# 控制范围breakelse:content[i] = content[i][2:].replace('、', ' ')content[i] = re.sub('[、;;.0-9。]', '', content[i])work_requirement = work_requirement + content[i] + '/'# 岗位要求write_file2(work_requirement)print(work_requirement)print("-----------------------------")
  • 运行结果:

图片

duty

图片

require

3、四种图可视化数据+数据清理方式

  • 矩形树图:
# 1.矩形树图可视化学历要求
from pyecharts import TreeMap
education_table = {}
for x in education:education_table[x] = education.count(x)
key = []
values = []
for k,v in education_table.items():key.append(k)values.append(v)data = []
for i in range(len(key)) :dict_01 = {"value": 40, "name": "我是A"}dict_01["value"] = values[i]dict_01["name"] = key[i]data.append(dict_01)
tree_map = TreeMap("矩形树图", width=1200, height=600)
tree_map.add("学历要求",data, is_label_show=True, label_pos='inside')
  • 玫瑰饼图:
# 2.玫瑰饼图可视化薪资
import re
import math
'''
# 薪水分类
parameter : str_01--字符串原格式:20k-30k
returned value : (a0+b0)/2 --- 解析后变成数字求中间值:25.0
'''
def assort_salary(str_01):reg_str01 = "(\d+)"res_01 = re.findall(reg_str01, str_01)if len(res_01) == 2:a0 = int(res_01[0])b0 = int(res_01[1])else :a0 = int(res_01[0])b0 = int(res_01[0])return (a0+b0)/2from pyecharts import Pie
salary_table = {}
for x in salary:salary_table[x] = salary.count(x)key = ['5k以下','5k-10k','10k-20k','20k-30k','30k-40k','40k以上']
a0,b0,c0,d0,e0,f0=[0,0,0,0,0,0]for k,v in salary_table.items():ave_salary = math.ceil(assort_salary(k))print(ave_salary)if ave_salary < 5:a0 = a0 + velif ave_salary in range(5,10):b0 = b0 +velif ave_salary in range(10,20):c0 = c0 +velif ave_salary in range(20,30):d0 = d0 +velif ave_salary in range(30,40):e0 = e0 +velse :f0 = f0 + v
values = [a0,b0,c0,d0,e0,f0]pie = Pie("薪资玫瑰图", title_pos='center', width=900)
pie.add("salary",key,values,center=[40, 50],is_random=True,radius=[30, 75],rosetype="area",is_legend_show=False,is_label_show=True)
  • 普通柱状图:
# 3.工作经验要求柱状图可视化
from pyecharts import Bar
workYear_table = {}
for x in workYear:workYear_table[x] = workYear.count(x)
key = []
values = []
for k,v in workYear_table.items():key.append(k)values.append(v)
bar = Bar("柱状图")
bar.add("workYear", key, values, is_stack=True,center= (40,60))
  • 词云图:
import jieba
from pyecharts import WordCloud
import pandas as pd
import re,numpystopwords_path = 'H:\PyCoding\Lagou_analysis\stopwords.txt'
def read_txt():with open("G:\lagou\Content\\ywkf_requirement.txt",encoding='gbk') as file:text = file.read()content = text# 去除所有评论里多余的字符content = re.sub('[,,。. \r\n]', '', content)segment = jieba.lcut(content)words_df = pd.DataFrame({'segment': segment})# quoting=3 表示stopwords.txt里的内容全部不引用stopwords = pd.read_csv(stopwords_path, index_col=False,quoting=3, sep="\t", names=['stopword'], encoding='utf-8')words_df = words_df[~words_df.segment.isin(stopwords.stopword)]words_stat = words_df.groupby(by=['segment'])['segment'].agg({"计数": numpy.size})words_stat = words_stat.reset_index().sort_values(by=["计数"], ascending=False)test = words_stat.head(200).valuescodes = [test[i][0] for i in range(0, len(test))]counts = [test[i][1] for i in range(0, len(test))]wordcloud = WordCloud(width=1300, height=620)wordcloud.add("必须技能", codes, counts, word_size_range=[20, 100])wordcloud.render("H:\PyCoding\Lagou_analysis\cloud_pit\ywkf_bxjn.html")

02

Python爬虫岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

爬虫技能

关键词解析:

  • 学历:本科
  • 工作月薪:10k-30k
  • 工作经验:1-5年
  • 技能:分布式、多线程、框架、Scrapy、算法、数据结构、数据库

综合:爬虫这个岗位在学历要求上比较放松,大多数为本科即可,比较适合想转业的老哥小姐姐,学起来也不会特别难。而且薪资待遇上也还算比较优厚,基本在10k以上。不过唯一对工作经验要求还是比较高的,有近一半的企业要求工作经验要达到3年以上。

03

Python数据分析岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

数据分析技能

关键词解析:

  • 学历:本科(硕士比例有所增高)
  • 工作月薪:10k-30k
  • 工作经验:1-5年
  • 技能:SAS、SPSS、Hadoop、Hive、数据库、Excel、统计学、算法

综合:数据分析这个岗位在学历要求上比爬虫要求稍微高一些,硕士比例有所提升,专业知识上有一定要求。薪资待遇上也还算比较优厚,基本在10k以上,同时薪资在30k-40k的比例也有所上升。对工作经验要求还是比较高,大部分的企业要求工作经验要达到3年以上。

04

Python后端岗位

学历要求

工作月薪

工作经验要求

后端技能

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

关键词解析:

  • 学历:本科
  • 工作月薪:10k-30k
  • 工作经验:3-5年
  • 技能:Flask、Django、Tornado、Linux、MySql、Redis、MongoDB、TCP/IP、数学(哈哈)

综合:web后端这个岗位对学历要求不高,但专业知识上有很大要求,得会Linux操作系统基本操作、三大主流数据库的使用、以及三大基本web框架的使用等计算机相关知识,总体来说难道还是比较大。薪资待遇上也比较优厚,基本在10k以上,同时薪资在30k-40k的比例也有近20%。对工作经验要求还是比较高,大部分的企业要求工作经验要达到3年以上。

05

Python数据挖掘岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

数据挖掘技能

关键词解析:

  • 学历:本科(硕士)
  • 工作月薪:20k-40k
  • 工作经验:3-5年
  • 技能:学历(hhh)、Hadoop、Spark、MapReduce、Scala、Hive、聚类、决策树、GBDT、算法

综合:数据挖掘这个岗位,在学历要求是最高的,虽然还是本科居多,但硕士比例明显增加,还有公司要求博士学历。在专业知识上也有很大要求,得会Linux操作系统基本操作、大数据框架Hadoop、Spark以及数据仓库Hive的使用等计算机相关知识,总体来说难道还是比较大。薪资待遇上特别优厚,基本在20k以上,薪资在30k-40k的比例也有近40%,对工作经验要求还是比较高,大部分的企业要求工作经验要达到3年以上。

06

Python全栈开发岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

全栈开发技能

关键词解析:

  • 学历:本科
  • 工作月薪:10k-30k
  • 工作经验:3-5年
  • 技能:测试、运维、管理、开发、数据结构、算法、接口、虚拟化、前端

综合:全栈开发这个岗位什么都要懂些,什么都要学些,在学历要求上并不太高,本科学历即可,在专业知识上就不用说了,各个方面都得懂,还得理解运用。薪资待遇上也还可以,基本在10k以上,薪资在30k-40k的比例也有近20%。对工作经验要求还是比较高,大部分的企业要求工作经验要达到3年以上。总体来说,就我个人而言会觉得全栈是个吃力多薪水少的岗位。

07

Python运维开发岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

运维开发技能

关键词解析:

  • 学历:本科
  • 工作月薪:10k-30k
  • 工作经验:3-5年
  • 技能:SVN、Git、Linux、框架、shell编程、mysql,redis,ansible、前端框架

综合:运维开发这个岗位在学历要求上不高,除开占一大半的本科,就是专科了。工作经验上还是有一些要求,大多数要求有3-5年工作经验。从工资上看的话,不高也不低,20k以上也占有62%左右。要学习的东西也比较多,前端、后端、数据库、操作系统等等。

08

Python高级开发工程师岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

高级开发工程师技能

关键词解析:

  • 学历:本科
  • 工作月薪:20k左右
  • 工作经验:3-5年
  • 技能:WEB后端、MySQL、MongoDB、Redis、Linux系统(CentOS)、CI/CD 工具、GitHub

综合:高级开发工程师这个岗位在学历要求上与运维开发差不多,薪资也相差不大,22%以上的企业开出了30k以上的薪资,65%左右企业给出20k以上的薪资。当然,对工作经验上还是要求较高,有近一半的企业要求工作经验要达到3年以上。

09

Python大数据岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

大数据技能

关键词解析:

  • 学历:本科(硕士也占比很大)
  • 工作月薪:30k以上
  • 工作经验:3-5年
  • 技能:前端开发、 MySQL、Mongo、Redis、Git
    、Flask、Celery、Hadoop/HBase/Spark/Hive、Nginx

综合:现在是大数据时代,大数据这个岗位也是相当火热,在学历要求上几乎与运维开发一模一样。当然,可能数据上出现了巧合,本科居多,工作经验上1-5年占据一大半,薪资上也基本上在20k以上,该岗位薪资在20k以上的企业占了55%左右。

10

Python机器学习岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

机器学习技能

关键词解析:

  • 学历:本科(硕士也占比很大)
  • 工作月薪:30k以上
  • 工作经验:3-5年
  • 技能:Machine Learning,Data Mining,Algorithm
    研发,算法,Linux,决策树,TF,Spark+MLlib,Cafe

综合:机器学习这个岗位在学历要求上比较严格,虽然看起来是本科居多,但对于刚毕业或毕业不久的同学,如果只是个本科,应聘还是很有难度的。当然机器学习岗位薪资特高,60%在30k以上,近90%在20k以上,97%在10k以上。除开对学历要求比较高外,对工作经验要求也比较高,有近一半的企业要求工作经验要达到3年以上。

11

Python架构师岗位

图片

学历要求

图片

工作月薪

图片

工作经验要求

图片

架构师技能

关键词解析:

  • 学历:本科
  • 工作月薪:30k以上
  • 工作经验:5-10年
  • 技能:Flask,Django,MySQL,Redis,MongoDB,Hadoop,Hive,Spark,ElasticSearch,Pandas,Spark/MR,Kafka/rabitmq

综合:架构师这个岗位单从学历上看不出什么来,但在薪资上几乎与机器学习一样,甚至比机器学习还要高,机器学习中月薪40k以上的占23.56%,架构师中月薪40k以上的占30.67%。在学历要求上比机器学习要略低,本科居多,但在工作经验上一半以上的企业要求工作经验在5-10年。在必要技能上也要求特别严格,比之前说过的全栈开发师有过之而无不及。

看着这月薪,我是超级想去了,你呢?

12

写在最后

从上文可以看出,Python相关的各个岗位薪资还是不错的,基本上所有岗位在10k以上的占90%,20k以上的也基本都能占60%左右。而且学历上普遍来看,本科学历占70%以上。唯一的是需要工作经验,一般得有个3-5年工作经验,也就是如果24岁本科毕业,27岁就有很大机会拿到月薪20k以上。有没有很心动?

关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

👉Python学习路线汇总👈

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。(全套教程文末领取哈)

在这里插入图片描述

👉Python必备开发工具👈

在这里插入图片描述

温馨提示:篇幅有限,已打包文件夹,获取方式在:文末

👉Python学习视频600合集👈

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
在这里插入图片描述

👉实战案例👈

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

👉100道Python练习题👈

检查学习结果。
在这里插入图片描述

👉面试刷题👈

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

资料领取

上述这份完整版的Python全套学习资料已经上传CSDN官方,朋友们如果需要可以微信扫描下方CSDN官方认证二维码输入“领取资料” 即可领取

在这里插入图片描述

http://www.dinnco.com/news/85437.html

相关文章:

  • 网站改版 文案排名查询系统
  • 网站建设公司排行杭州免费下载优化大师
  • 党建网站建设内容丰富多彩互联网广告联盟
  • 外贸网站建设公司青岛简单网页制作
  • 做网页向网站提交数据户外广告
  • 企业网站建设457216336详情页设计
  • 胜芳网站建设qiansiseo外链平台
  • seo整站优化托管北京营销推广公司
  • 如何做网站站内搜索代码免费下载官方百度
  • 广州建设执业注册中心网站抚顺网站建设
  • 手机显示的网站该怎样设计的搜索引擎优化
  • 高职高专图书馆网站建设中国有几个搜索引擎
  • 丽水做企业网站的地方上海网站搜索排名优化哪家好
  • 如何建立网站站点网络营销策划的方法
  • 表格网站怎么做的关键词怎样做优化排名
  • 草桥做网站的公司市场营销分析案例
  • wordpress英文如何改中文合肥网络seo
  • 网站统计模板seo服务套餐
  • 宠物网站建设的目的google权重查询
  • 资源网站怎么做石家庄市人民政府官网
  • java手机网站怎么做的网络推广专员是做什么的
  • 自建销售网站网站推广优化是什么意思
  • 能够做物理题的网站潍坊网站建设seo
  • 网站运营方案怎么写?汕头网站建设方案推广
  • 建立个人网站的费用苏州seo关键词优化价格
  • crm软件哪家好深圳seo优化培训
  • 老城网站建设长沙官网seo推广
  • 做公司网站有用吗经典软文广告案例
  • 赤峰做网站如何进行品牌宣传与推广
  • 开一家网络公司做网站前景如何百度一下浏览器下载安装