- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章Python制作动态词频条形图的全过程由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.
”数据可视化“这个话题,相信大家并不陌生,在一些平台,经常可以看到一些动态条形图的视频,大多都是某国家 GDP 的变化或者不同国家疫情中感染人数的变化等等.
这篇文章,我们将使用 Python 绘制动态词频条形图,顾名思义,就是以词频作为数量指标的动态条形图.
。
输入以下命令,安装必须的库:
pip install JiashuResearchToolspip install jiebapip install pandaspip install bar_chart_race
。
我们这次使用的数据是简书文章收益排行榜,日期范围为 2020 年 6 月 20 日至 2021 年 9 月 18 日.
从网页中解析数据的过程较为复杂,我们使用简书数据科学库 JianshuResearchTools 完成.
为方便调试,我们使用 Jupyter Notebook 进行交互式开发.
导入 JianshuResearchTools,并为其设置别名:
import JianshuResearchTools as jrt
调用接口,获取 2021 年 9 月 17 日的数据:
jrt.rank.GetArticleFPRankData("20210917")
返回的数据如下:
[{'ranking': 0,'aslug': 'a03adf9d5dd5','title': '幸得君心似我心','author_name': '雁阵惊寒','author_avatar_url': 'https://upload.jianshu.io/users/upload_avatars/26225608/682b892e-6661-4f98-9aab-20b4038a433b.jpg','fp_to_author': 3123.148,'fp_to_voter': 3123.148,'total_fp': 6246.297},{'ranking': 1,'aslug': '56f7fe236842','title': '伤痕','author_name': '李文丁','author_avatar_url': 'https://upload.jianshu.io/users/upload_avatars/26726969/058e18c4-908f-4710-8df7-1d34d05d61e3.jpg','fp_to_author': 1562.198,'fp_to_voter': 1562.198,'total_fp': 3124.397},(以下省略)
可以看出,返回的数据中包含文章的排名、标题、作者名、作者头像链接和关于简书资产的一些信息.
我们只需要文章的标题进行统计,所以我们将上面获取到的数据赋值给变量 raw_data,然后:
[item["title"] for item in raw_data]
使用列表推导式,我们得到了文章标题组成的列表.
为方便处理,我们将这些数据连接起来,中间用空格分隔:
" ".join([item["title"] for item in raw_data])
但是我们遇到了报错:
TypeError: sequence item 56: expected str instance, NoneType found 。
从报错信息中可以看出,我们获取到的文章标题列表中有空值,导致字符串的连接失败了.
(空值是因为作者删除了文章) 。
所以我们还需要加入去除空值的逻辑,代码编程这样:
" ".join(filter(None, [item["title"] for item in raw_data]))
filter 函数在第一个参数为 None 时,默认过滤掉列表中的空值.
现在我们获取到的数据如下:
'幸得君心似我心 伤痕 短篇|阿生 “我最喜爱的友友”大评选|理事会 ・ 中秋嘉年华,等你来! 是缘是劫无须问,石火穷年一蝶迷 职业日记|从蜜月到陌路:我和美国外教的一点事 红楼||浅谈《红楼梦》开篇一顽石 城市印象|走笔八卦城 花豹与狗的爱情终结在人与动物的战争里(以下省略) 。
接下来,我们需要获取时间范围内的所有数据.
查询 JRT 的函数文档可知,我们需要一个字符串类型,格式为”YYYYMMDD“的参数表示目标数据的日期.
所以我们需要写一段程序,用于实现这些日期字符串的生成,代码如下:
from datetime import date, timedeltadef DateStrGenerator(): start_date = date(2020, 6, 20) after = 0 result = None while result != "20210917": current_date = start_date + timedelta(days=after) result = current_date.strftime(r"%Y%m%d") yield result after += 1
接下来,我们编写一段代码,实现对这些数据的获取:
result = []for current_date in tqdm(DateStrGenerator(), total=455): raw_data = jrt.rank.GetArticleFPRankData(current_date) processed_data = " ".join(filter(None, [item["title"] for item in raw_data])) result.append({"date": current_date, "data": processed_data})
这里使用 tqdm 库显示了一个进度条,非必须.
使用 Pandas 库,将我们采集到的数据转换成 DataFrame:
df = pandas.DataFrame(result)
。
我们使用 jieba 库实现分词,先尝试对第一条数据进行处理:
jieba.lcut(df["data"][0])
使用 Python 标准库 collections 中的 Counter 进行词频统计:
Counter(jieba.lcut(df["data"][0]))
简单画个条形图:
可以看到,空格和一些标点符号,包括”的“、”我“之类无意义词汇出现频率很高,我们需要将它们剔除出去.
我们构建一个存放停用词的 txt 文档,之后使用如下代码将其读取,并转换成一个列表:
stopwords_list = [item.replace("\n", "") for item in open("stopwords.txt", "r", encoding="utf-8").readlines()]
接下来,编写一个函数,实现停用词的剔除,为了方便后续的数据处理,我们也一并剔除单字和只出现一次的词语:
def process_words_count(count_dict): result = {} for key, value in count_dict.items(): if value < 2: continue if len(key) >= 2 and key not in stopwords_list: result[key] = value return result
另外,我们使用 jieba 库的 add_word 函数将一些简书中的组织名和专有名词添加到词库中,从而提高分词的准确性,代码如下:
keywords_list = [item.replace("\n", "") for item in open("keywords.txt", "r", encoding="utf-8").readlines()]for item in keywords_list: jieba.add_word(item)
经过一番处理,现在分词效果有了明显的改善:
最后,用这段代码对所有数据进行分词,并将结果保存到另一个 DataFrame 中:
data_list = []date_list = []for _, item in df.iterrows(): date_list.append(datetime(int(item["date"][0:4]), int(item["date"][4:6]), int(item["date"][6:8]))) data_list.append(process_words_count(Counter(jieba.lcut(item["data"]))))processed_df = pandas.DataFrame(data_list, index=date_list)
我最终得到的结果是一个 455 行,2087 列的 DataFrame.
。
这样多的数据,其中很大一部分都不能代表整体情况,所以我们需要进行数据筛选.
使用以下代码,统计所有列数值的总和,即每个关键词在全部数据中出现的次数,存储到名为 sum 的行中:
try: result = [] for i in range(3000): result.append(processed_df.iloc[:, i].sum())except IndexError: processed_df.loc["sum"] = result
运行以下代码,只保留在数据集中出现 300 次以上的关键词:
maller_df = processed_df.T[processed_df.T["sum"] >= 300].Tsmaller_df = smaller_df.drop(labels="sum")smaller_df.columns
现在,数据集中的列数减少到了 24 个,可以进行可视化了.
不要忘记先导入模块:
import bar_chart_race as bcr
使用此模块需要先安装 ffmpeg,这方面教程可以自行查找.
另外,为了支持中文显示,我们需要打开这个模块下的 _make_chart.py 文件,在 import 之后增加以下两行代码:
plt.rcParams['font.sans-serif'] = ['SimHei']plt.rcParams['axes.unicode_minus'] = False
这两行代码将会把 matplotlib 的默认字体替换成支持中文显示的字体.
最后,使用一行代码完成可视化:
bcr.bar_chart_race(smaller_df, steps_per_period=30, period_length=1500, src="/uploads/allimg/220228/00145QQ6-7.png" />。
总结
到此这篇关于Python制作动态词频条形图的文章就介绍到这了,更多相关Python制作动态词频条形图内容请搜索我以前的文章或继续浏览下面的相关文章希望大家以后多多支持我! 。
原文链接:https://www.jianshu.com/p/5a9ca9bc22d7 。
最后此篇关于Python制作动态词频条形图的全过程的文章就讲到这里了,如果你想了解更多关于Python制作动态词频条形图的全过程的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
我想在我的 android 应用程序中实现一个反馈/评级图表。(就像当你打开 google play 并检查应用程序的反馈时,有一个来自投票它的用户的彩色图表)任何人都可以帮助我如何开始那个?感谢您提
我正在尝试使用 LaTeX 制作条形图。到目前为止我一直不成功,所以任何人都可以帮助我,也许是最近项目的副本?如何使用 pstricks 制作条形图?我会很感激最简单的解决方案,因为我最近才开始使用
我有一个包含 6 个事件及其发生时间跨度的 csv 表。我的变量是开始日期、结束日期和事件 ID。我打算创建一个水平直方图/条形图可视化来显示时间范围,即某些类型的事件持续了多长时间。 X 轴应该有多
我想制作可以指定条形最小值的条形图(很像盒须图中的盒子)。条形图可以做到吗?我怀疑答案在 ggplot 中,但我找不到示例。 这是一些数据: X Jan F
我想使用以下数据来创建可视化: > dput(data) structure(c(1264L, 2190L, 2601L, 1441L, 1129L, 2552L, 1820L, 306L,
我有一个包含正值和负值的数据框。我想显示一个显示两个条形的条形图,一个条形显示正值的百分比,另一个条形图显示负值的百分比。 dummy = pd.DataFrame({'A' : [-4, -3, -
我正在尝试在栏中插入自定义文本,我搜索了很多线程,但仍然没有得到任何解决方案。然后我想减小 y 轴的步长。我已附上我的代码。 jQuery( document ).ready(function() {
我正在使用 pandas 来创建条形图。这是一个例子: df=pd.DataFrame(np.random.rand(10, 4), columns=['a', 'b', 'c', 'd']) df.
我想在python中制作一个分类图来表示几个变量的范围。我想也许我会使用条形图并为条形设置范围。这是我的条形图 import matplotlib.pyplot as plt import numpy
我有一个显示 3 个条形的堆叠百分比条形图。 JSFiddle:https://jsfiddle.net/Lr0bszj6/ 由于某种原因,条形之间有很多空间并且没有与标签对齐(只有中间一个)。 设置
我正在尝试使用 aChartEngine 将 GPS 数据(正在查看或正在使用的卫星)显示为条形图,但我没有在此 View 中显示任何数据。这是我的代码,所以你能告诉我我犯了什么错误吗? public
我正在使用 this chart implementation . 但是,它分散了我的数据,而不是相互堆叠。 我想在 1970 年堆叠我的第一个数组,在 1975 年堆叠第二个数组。换句话说,我希望有
我正在尝试用不同颜色为条形图中的各个条形着色,比如蓝色表示正,红色表示负。我在互联网上找不到任何有用的东西。我在下面的代码中发现每个条形图都根据第一个条形图的值着色,而不是为每个条形图单独设置颜色:
我刚刚转移到 pandas 0.20/matplotlib 2.0 python 3.6。 (共构成以下版本)。我用 pandas 来绘制条形图,因为 matplotlib 的级别总是太低。着色列的行
我正在尝试制作一个图,其中 x 轴是时间,y 轴是一个条形图,其中的条形图覆盖特定时间段,如下所示: ______________
我有一些非常基本的代码,它可以正常工作,除了所有内容都与顶部对齐...理想情况下,条形图应与底部对齐。我想我可以使用固定定位,因为尺寸是 50px x 50px 的平方,但我更喜欢“固定”少一点的东西
这是我用来 Dim ejex As String, ejey As String Dim graficos As String Worksheets("Sheet1").Activate ejex =
我有一个生成如下条形图的 gnuplot 脚本: 输入数据位于具有多列的文件中,每一列最终都构成图表中的一个集群(示例中显示了 2 个集群)。每个文件都构成图表中的一个条形(示例中有 9 个)。每个文
我正在为我的数据 movies 使用库 ggplot2movies 请记住,我指的是 mpaa 评级和用户评级,这是两个不同的事物。如果您不想加载 ggplot2movies 库,这里是相关数据的示例
有没有一种简单的方法可以使用Pandas DataFrame.plot(kind='bar')方法按列名指定条形颜色? 我有一个脚本,可以从目录中的几个不同数据文件生成多个DataFrame。例如,它
我是一名优秀的程序员,十分优秀!