个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
26
4
我的生产系统每天运行近 170 个 Ctrl-M 作业(本质上是 cron 作业)。这些作业编织在一起(通过创建依赖关系)来执行 ETL 操作。例如:Ctrl-M(像 CRON 这样的调度程序)几乎总是以 shell 脚本开始，然后按特定顺序执行一堆 python、hive 脚本或 map-reduce 作业。
我正在尝试将日志记录到每个进程中，以便能够更好地监视整个任务和管道。这些日志将用于构建监控仪表板。
目前，我已经使用中央包装器实现了日志记录，每个进程都会调用该包装器来记录信息。该包装器每次都会打开一个 Teradata 连接并调用 Teradata 存储过程以写入 Teradata 表。
目前效果很好。但就我而言，多个并发进程(产生更多并行子进程)同时运行，并且我在进行一些负载测试时开始遇到连接丢失的情况。以下是我一直在考虑的一种方法:
我绝对想听听您对此的想法或任何其他更好的方法。最终，日志记录的终点将转移到 Redshift，从而按照 AWS SQS 队列进行思考。
提前致谢。
最佳答案
我认为 Kinesis firehose 是完美的解决方案。设置 Firehose 流非常快速且易于配置，非常便宜，并且会将您的数据流式传输到您选择的 s3 存储桶，并可选择将日志直接流式传输到 Redshift。
如果红移是您的最终目标(甚至只是 s3)，那么 kinesis firehose 不会让这一切变得更容易。
https://aws.amazon.com/kinesis/firehose/
Amazon Kinesis Firehose is the easiest way to load streaming data into AWS. It can capture and automatically load streaming data into Amazon S3 and Amazon Redshift, enabling near real-time analytics with existing business intelligence tools and dashboards you’re already using today. It is a fully managed service that automatically scales to match the throughput of your data and requires no ongoing administration. It can also batch, compress, and encrypt the data before loading it, minimizing the amount of storage used at the destination and increasing security. You can easily create a Firehose delivery stream from the AWS Management Console, configure it with a few clicks, and start sending data to the stream from hundreds of thousands of data sources to be loaded continuously to AWS – all in just a few minutes.
关于shell - 并发批处理作业将日志写入数据库，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/36169316/
26
4
0
我相信我在子 shell 中调用 exit 会导致我的程序继续: #!/bin/bash grep str file | while read line do exit 0 done
我相信我在子 shell 中调用 exit 会导致我的程序继续: #!/bin/bash grep str file | while read line do exit 0 done
我有几个脚本，它们的第一部分看起来是一样的。这部分的功能是识别脚本在哪台机器上运行并相应地设置几个变量。它看起来像这样: ENV=`echo $LOGNAME | cut -c1-8` if
这是我正在尝试做的事情。我有 4 个 shell 脚本。脚本 1 需要先运行，然后是 2，然后是 3，然后是 4，并且它们必须按此顺序运行。脚本 1 需要运行(并在后台等待)2 才能正常运行，但是脚本
我有一个名为 a.sh 的脚本，其中的内容是: //a.sh: #!/bin/bash temp=0 while [ "$temp" -ne 500 ] do echo `date`
在snakemake中，使用shell()函数执行多个命令的推荐方式是什么？ 最佳答案 您可以调用shell()多次内run规则块(规则可以指定 run: 而不是 shell: ): rule pro
我有一个 shell 脚本，我向其中传递了一些参数。Test1.sh -a 1 -b 2 -c“一二三” 在 Test1.sh 中，我按以下方式调用另一个 shell 脚本。Test2.sh $* 我
我有 2 个 shell 脚本。 第二个shell脚本包含以下函数第二个.sh func1 func2 first.sh 将使用一些参数调用第二个 shell 脚本， 将使用特定于该函数的一些其他参数
我有一个 Unix shell 脚本 test.sh。在脚本中，我想调用另一个 shell，然后从子 shell 执行 shell 脚本中的其余命令并退出 说清楚: test.sh #! /bin/b
我想在 shell 脚本中更改路径环境变量。路径变量需要在shell脚本执行后修改。 最佳答案 我知道有两种方法可以做到这一点。第一种是在当前 shell 的上下文中运行脚本: . myscript.
此 shell 脚本按预期运行。 trap 'echo exit' EXIT foo() { exit } echo begin foo echo end 这是输出。 $ sh foo.sh
我正在使用 vimshell在 vim 中执行命令 nnoremap vs :VimShellPop 使用此键映射，我可以打开 vim shell 并执行诸如“捆绑安装”之类的命令，然后 输入 exi
我想连接到不同的 shell(csh、ksh 等)并在每个切换的 shell 中执行命令。 下面是反射(reflect)我的意图的示例程序: #!/bin/bash echo $SHELL csh e
我目前正在尝试使用 BNF 和 LL 解析器在 C 中重新编写 shell。 否则，我需要知道 shell 运算符的优先级是什么| , > , > , & , ; ? 有没有人可以提供给我？ 谢谢 最
不幸的是，我没有suspend 命令(busybox/ash)。但是我可以使用 kill -STOP $$ 从后台 shell (sh &) 返回到父 shell(以及 fg 之后)。 但是我不想输入
我需要知道，当用户切换到另一个 shell 时，通过单击它。 我试过 shellListener.shellDeactivated()但是当 shell 失去对它自己的控件的焦点时，会触发此事件，这意
file1.txt aaaa bbbb cccc dddd eeee file2.txt DDDD cccc aaaa 结果 bbbb eeee 如果能不区分大小写就更好了! 谢谢! 最佳答案 gre
我见过解压缩目录中所有 zip 文件的循环。但是，在运行此之前，我宁愿确保我将要运行的内容正常工作: for i in dir; do cd $i; unzip '*.zip'; rm -rf *.z
我对编程还很陌生，但我想知道 vim、emacs、nano 等 shell 文本编辑器如何能够控制命令行窗口。我主要是一名 Windows 程序员，所以可能在 *nix 上有所不同。据我所知，只能将文
我有一个包含第 7 列日期的文件，我的要求是将它与今天的日期进行比较，如果小于它，则删除该完整行。 此外，如果第 7 列中提到的任何日期超过 15 天，则将其修改为最多 15 天 下面的例子- now
我是一名优秀的程序员,十分优秀！