python - 值错误 : malformed string using ast. literal_eval

Question

我正在循环获取 json api，这是我循环中的内容:

response_item = requests.request('GET',url_item,params=None,verify=False)
response_item = json.loads(response_item.text)
response_item = ast.literal_eval(json.dumps(response_item, ensure_ascii=False).encode('utf8'))

我扫描了大约 45000 个 json 对象，我为每次迭代生成“url_item”变量。每个对象都是相同的，我可以获得类似 7000 个对象的信息，当我到达第 7064 个时出现以下错误:

Traceback (most recent call last):
  File "C:\Python27\tools\api_item.py", line 47, in <module>
    response_item = ast.literal_eval(json.dumps(response_item, ensure_ascii=False).encode('utf8'))
  File "C:\Python27\lib\ast.py", line 80, in literal_eval
    return _convert(node_or_string)
  File "C:\Python27\lib\ast.py", line 63, in _convert
    in zip(node.keys, node.values))
  File "C:\Python27\lib\ast.py", line 62, in <genexpr>
    return dict((_convert(k), _convert(v)) for k, v
  File "C:\Python27\lib\ast.py", line 63, in _convert
    in zip(node.keys, node.values))
  File "C:\Python27\lib\ast.py", line 62, in <genexpr>
    return dict((_convert(k), _convert(v)) for k, v
  File "C:\Python27\lib\ast.py", line 79, in _convert
    raise ValueError('malformed string')
ValueError: malformed string

我曾经打印第二个和第三个“response_item”。当然在这种情况下第三个没有显示，因为我之前有错误，这里是我在 json.load 之后打印的内容:

{u'restrictions': [], u'name': u'Sac \xe0 dos de base', u'level': 0, u'rarity': u'Basic', u'vendor_value': 11, u'details': {u'no_sell_or_sort': False, u'size': 20}, u'game_types': [u'Activity', u'Wvw', u'Dungeon', u'Pve'], u'flags': [u'NoSell', u'SoulbindOnAcquire', u'SoulBindOnUse'], u'icon': u'https://render.guildwars2.com/file/80E36806385691D4C0910817EF2A6C2006AEE353/61755.png', u'type': u'Bag', u'id': 8932, u'description': u'Un sac de 20 emplacements pour les personnages d\xe9butants.'}

我在这之前得到的每一项都具有相同的类型，相同的格式，除了第 7064 个之外我没有任何错误!

感谢您的帮助!

Answer 1

您应该不对 JSON 数据使用 ast.literal_eval()。 JSON 和 Python 文字可能看起来是一样的东西，但它们非常不同。

在这种情况下，您的数据包含一个 bool 标志，在 JSON 中设置为 false。正确的 Python bool 值使用标题大小写，因此 False:

>>> import json, ast
>>> s = '{"no_sell_or_sort": false, "size": 20}'
>>> json.loads(s)
{u'no_sell_or_sort': False, u'size': 20}
>>> ast.literal_eval(s)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/Users/mj/Development/Library/buildout.python/parts/opt/lib/python2.7/ast.py", line 80, in literal_eval
    return _convert(node_or_string)
  File "/Users/mj/Development/Library/buildout.python/parts/opt/lib/python2.7/ast.py", line 63, in _convert
    in zip(node.keys, node.values))
  File "/Users/mj/Development/Library/buildout.python/parts/opt/lib/python2.7/ast.py", line 62, in <genexpr>
    return dict((_convert(k), _convert(v)) for k, v
  File "/Users/mj/Development/Library/buildout.python/parts/opt/lib/python2.7/ast.py", line 79, in _convert
    raise ValueError('malformed string')
ValueError: malformed string

其他差异包括使用 null 而不是 None，以及 Unicode 转义序列在 Python 2 中看起来像一个普通(字节)字符串 , 在转义非 BMP 代码点时使用 UTF-16 代理。

使用 json.loads() 加载数据，而不是 ast.literal_eval()。它不仅可以很好地处理正确的 JSON，而且更快。

在您的情况下，您似乎正在使用 json.dumps()，然后尝试使用 ast.literal_eval() 再次加载数据。这一步不需要，您已经有一个 Python 对象。

换句话说，行:

response_item = ast.literal_eval(json.dumps(response_item, ensure_ascii=False).encode('utf8'))

充其量是多余的，最坏的情况下是非常非常错误的。将 response_item 重新编码为 JSON 字符串不会产生可以解释为 Python 文字的内容。