Python:如何访问生成器对象中的元素并将它们放入 Pandas 数据框或字典中？

Question

我正在使用 python 中的 scholarly 模块来搜索关键字。我正在按如下方式取回生成器对象:

import pandas as pd
import numpy as np
import scholarly

search_query = scholarly.search_keyword('Python')
print(next(search_query))

{'_filled': False,
 'affiliation': 'Juelich Center for Neutron Science',
 'citedby': 75900,
 'email': '@fz-juelich.de',
 'id': 'zWxqzzAAAAAJ',
 'interests': ['Physics', 'C++', 'Python'],
 'name': 'Gennady Pospelov',
 'url_picture': 'https://scholar.google.com/citations?view_op=medium_photo&user=zWxqzzAAAAAJ'}

我想访问元素“citedby”，但是当我尝试执行 next(search_query)['citedby'] 时，它返回 TypeError: 'Author' object is not subscriptable.

我的问题是如何访问生成器对象中的元素？以及如何将该对象转换为 Pandas 数据框？

Answer 1

这不是生成器问题。生成器生成的对象不是字典。

诚然，scholary 库不会通过给 Author 实例提供类似字典的字符串转换来帮助解决问题，而不是实际记录该类的 API 确实支持。

Author 表示中的每个“键”实际上是对象的一个​​属性:

author = next(search_query)
print(author.citedby)

您可以使用 vars() function 获取对象的字典:

author_dict = vars(author)

不过，数据不一定直接映射到数据框。例如，interests 列表如何在 dataframe 表格数据结构中表示？而且您也不想包含 _filled 内部属性(如果 author.fill() 已被调用，这是一个记录标志)。

也就是说，您可以通过将生成器映射到 vars 函数来从字典创建一个数据帧:

search_query = scholarly.search_keyword('Python')
df = pd.DataFrame(map(vars, search_query))

然后在必要时删除 _filled 列，并将 interests 列转换为更结构化的内容，例如具有 0/1 值或类似值的单独列。

请注意，这会很慢，因为scholarly 图书馆按顺序翻阅 Google 搜索结果，图书馆故意延迟每次请求的随机休眠间隔为 5-10 秒，以避免 Google 阻止请求。所以您必须要有耐心，因为 Python 关键字搜索很容易产生将近 30 页的结果。