- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
在我的项目中,我想将lambda函数连接到Redis存储,但是在建立连接时出现任务超时错误。即使我已经用NAT网关连接了专用子网。
Python代码:
import json
import boto3
import math
import redis
# from sklearn.model_selection import train_test_split
redis = redis.Redis(host='redisconnection.sxxqwc.ng.0001.use1.cache.amazonaws.com', port=6379)
s3 = boto3.client('s3')
def lambda_handler(event, context):
# bucket = event['Records'][0]['s3']['bucket']['name'] // if dynamic allocation
# key = event['Records'][0]['s3']['object']['key'] // if dynamic searching
bucket = "aws-trigger1"
key = "unigram1.csv"
response = s3.head_object(Bucket=bucket, Key=key)
fileSize = response['ContentLength']
fileSize = fileSize / 1048576
print("FileSize = " + str(fileSize) + " MB")
# redis.rpush(fileSize)
redis.ping
redis.set('foo','bar')
obj = s3.get_object(Bucket= bucket, Key=key)
file_content = obj["Body"].read().decode("utf-8")
#Calculate the chunk size
chunkSize = ''
MAPPERNUMBER=2
MINBLOCKSIZE= 1024
chunkSize = int(fileSize/MAPPERNUMBER)
numberMappers = MAPPERNUMBER
if chunkSize < MINBLOCKSIZE:
print("chunk size to small (" + str(chunkSize) + " bytes), changing to " + str(MINBLOCKSIZE) + " bytes")
chunkSize = MINBLOCKSIZE
numberMappers = int(fileSize/chunkSize)+1
residualData = fileSize - (MAPPERNUMBER - 1)*chunkSize
# print("numberMappers--",residualData)
#Ensure that chunk size is smaller than lambda function memory
MEMORY= 1536
memoryLimit = 0.30
secureMemorySize = int(MEMORY*memoryLimit)
if chunkSize > secureMemorySize:
print("chunk size to large (" + str(chunkSize) + " bytes), changing to " + str(secureMemorySize) + " bytes")
chunkSize = secureMemorySize
numberMappers = int(fileSize/chunkSize)+1
# print("Using chunk size of " + str(chunkSize) + " bytes, and " + str(numberMappers) + " nodes")
#remove 1st row from the data
file_content=file_content.split('\n', 1)[-1]
# print("after removing column name")
# X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.5, randomstate=42)
train_pct_index = int(0.5 * len(file_content))
X_Map1, X_Map2 = file_content[:train_pct_index], file_content[train_pct_index:]
# print("the size is--------------",X_Map1)
# print("the size is--------------",X_Map2)
linelen = file_content.find('\n')
if linelen < 0:
print("\ n not found in mapper chunk")
return
extraRange = 2*(linelen+20)
initRange = fileSize + 1
limitRange = fileSize + extraRange
# chunkRange = 'bytes=' + str(initRange) + '-' + str(limitRange)
# print(chunkRange)
#invoke mappers
invokeLam = boto3.client("lambda", region_name="us-east-1")
payload = X_Map1
payload2 = X_Map2
print(X_Map1)
# resp = invokeLam.invoke(FunctionName = "map1", InvocationType="RequestResponse", Payload = json.dumps(payload))
# resp2 = invokeLam.invoke(FunctionName = "map2", InvocationType="RequestResponse", Payload = json.dumps(payload2))
return file_conte
connection of VPC in lambda
最佳答案
尝试从S3检索对象时,您可能会收到超时。
检查您的VPC中是否配置了Amazon S3终端节点:
https://docs.aws.amazon.com/glue/latest/dg/vpc-endpoints-s3.html
关于amazon-web-services - 在将AWS Lambda与Redis连接在一起时,任务在23.02秒错误后超时,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/63150557/
我知道这个问题可能已经被问过,但我检查了所有这些,我认为我的情况有所不同(请友善)。所以我有两个数据集,第一个是测试数据集,第二个是我保存在数据框中的预测(预测值,这就是没有数据列的原因)。我想合并两
在 .loc 方法的帮助下,我根据同一数据框中另一列中的值来识别 Panda 数据框中某一列中的值。 下面给出了代码片段供您引用: var1 = output_df['Player'].loc[out
当我在 Windows 中使用 WinSCP 通过 Ubuntu 连接到 VMware 时,它提示: The server rejected SFTP connection, but it lis
我正在开发一个使用 xml web 服务的 android 应用程序。在 wi-fi 网络中连接时工作正常,但在 3G 网络中连接时失败(未找到 http 404)。 这不仅仅发生在设备中。为了进行测
我有一个XIB包含我的控件的文件,加载到 Interface Builder(Snow Leopard 上的 Xcode 4.0.2)中。 文件的所有者被设置为 someClassController
我在本地计算机上管理 MySQL 数据库,并通过运行以下程序通过 C 连接到它: #include #include #include int main(int argc, char** arg
我不知道为什么每次有人访问我网站上的页面时,都会打开一个与数据库的新连接。最终我到达了大约 300 并收到错误并且页面不再加载。我认为它应该工作的方式是,我将 maxIdle 设置为 30,这意味着
希望清理 NMEA GPS 中的 .txt 文件。我当前的代码如下。 deletes = ['$GPGGA', '$GPGSA', '$GPGSV', '$PSRF156', ] searchquer
我有一个 URL、一个用户名和一个密码。我想在 C# .Net WinForms 中建立 VPN 连接。 你能告诉我从哪里开始吗?任何第三方 API? 代码示例将受到高度赞赏... 最佳答案 您可以像
有没有更好的方法将字符串 vector 转换为字符 vector ,字符串之间的终止符为零。 因此,如果我有一个包含以下字符串的 vector "test","my","string",那么我想接收一
我正在编写一个库,它不断检查 android 设备的连接,并在设备连接、断开连接或互联网连接变慢时给出回调。 https://github.com/muddassir235/connection_ch
我的操作系统:Centos 7 + CLOUDLINUX 7.7当我尝试从服务器登录Mysql时 [root@server3 ~]# Mysql -u root -h localhost -P 330
我收到错误:Puma 发现此错误:无法打开到本地主机的 TCP 连接:9200(连接被拒绝 - 连接(2)用于“本地主机”端口 9200)(Faraday::ConnectionFailed)在我的
请给我一些解决以下错误的方法。 这是一个聊天应用....代码和错误如下:: conversations_controller.rb def create if Conversation.bet
我想将两个单元格中的数据连接到一个单元格中。我还想只组合那些具有相同 ID 的单元格。 任务 ID 名称 4355.2 参与者 4355.2 领袖 4462.1 在线 4462.1 快速 4597.1
我经常需要连接 TSQL 中的字段... 使用“+”运算符时 TSQL 强制您处理的两个问题是 Data Type Precedence和 NULL 值。 使用数据类型优先级,问题是转换错误。 1)
有没有在 iPad 或 iPhone 应用程序中使用 Facebook 连接。 这个想法是登录这个应用程序,然后能够看到我的哪些 facebook 用户也在使用该应用程序及其功能。 最佳答案 是的。
我在连接或打印字符串时遇到了一个奇怪的问题。我有一个 char * ,可以将其设置为字符串文字的几个值之一。 char *myStrLiteral = NULL; ... if(blah) myS
对于以下数据 - let $x := "Yahooooo !!!! Select one number - " let $y := 1 2 3 4 5 6 7 我想得到
我正在看 UDEMY for perl 的培训视频,但是视频不清晰,看起来有错误。 培训展示了如何使用以下示例连接 2 个字符串: #!usr/bin/perl print $str = "Hi";
我是一名优秀的程序员,十分优秀!