python-3.x - 从 AWS Lambda 上的 S3 读取文件时出现 IncompleteReadError

Question

从 AWS Lambda 上的 S3 读取文件时，我收到 IncompleteReadError .当我在本地尝试时，它工作得很好。这仅在 Python3.6 上发生并且在 Python3.7 上工作正常 - 但是我需要使用 Python3.6。我也尝试使用资源而不是客户端，但得到了同样的错误

Traceback (most recent call last):
  File "/var/task/function.py", line 141, in handler
    i = d.read()
  File "/var/runtime/botocore/response.py", line 82, in read
    self._verify_content_length()
  File "/var/runtime/botocore/response.py", line 134, in _verify_content_length
    expected_bytes=int(self._content_length))
botocore.exceptions.IncompleteReadError: 0 read, but total bytes expected is 36678.

失败的代码区域在这里:

client = boto3.client('s3')        
get_json_file = client.get_object(
    Bucket=os.environ['S3_BUCKET'],
    Key="{0}".format(file_name),
)

d = get_json_file.get('Body')
i = d.read()
data = json.loads(i)

Answer 1

我遇到了同样的问题，我想问题是由于流的大小而出现的。我用过 _raw_stream解决这个问题
尝试这样做:

client = boto3.client('s3')        
object = client.get_object(
    Bucket=os.environ['S3_BUCKET'],
    Key="{0}".format(file_name),
)

raw_data = object['Body']._raw_stream.data.decode("utf-8")
data = json.loads(raw_data)