- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
在我的项目中,我试图将一些元数据添加到我的管道中处理的数据中。元数据位于 src 文件夹旁边名为 resources 的子文件夹中的 DBF 文件中。
src 文件夹包含主类,我有几个包(IO、处理、聚合、实用程序)。
我在定义管道的主类中读取和处理包含元数据的文件。我用来访问文件的代码如下:
File temp1 = new File("resources/xxx.dbf");
我检查文件是否被发现使用:
LOG.info(temp1.exists())
运行良好。
有消息以字符串形式传入,我使用 PubSubIO 读取这些消息。我使用此文件的内容来填充包含键和值的 Map。
Map<String, ArrayList<Double>> sensorToCoordinates = coordinateData.getSensorLocations();
然后我在我创建的名为“SensorValues”的自定义类中设置了一个静态变量:
SensorValue.setKeyToCoordinates(sensorToCoordinates);
当我使用 ParDo 函数(从 PCollection 到 PCollection)将传入消息从字符串解析为 SensorValue 类时,该映射用于 SensorValue 类的构造函数。
使用 DirectPipelineRunner 运行这段代码效果很好。但是,当我使用 DataflowPipelineRunner 并尝试访问 SensorValue 构造函数中的映射时,我遇到了 NullPointerException。
现在我想知道为什么 setter 在使用 DataflowPipelineRunner 时不工作(我猜这与在多个工作人员之间分配执行有关)以及使用任何静态资源文件的最佳做法是什么丰富您的管道?
最佳答案
您是对的,问题是因为 ParDo
的执行分配给了多个工作人员。他们没有本地文件,他们可能没有 map 的内容。
这里有几个选项:
将文件放入 GCS,让管道读取文件的内容(使用 TextIO 或类似的东西)并将其用作 side-input到您以后的处理。
将文件包含在管道的资源中,并将其加载到需要它的 DoFn
的 startBundle
中(将来会有方法使这种情况发生的频率低于每个 bundle )。
您可以将映射的内容序列化为 DoFn
的参数,方法是将其作为非静态字段传递给该类的构造函数。
随着此文件大小的增加,选项 1 更好(因为它可以支持将其拆分成多个部分并进行查找),而选项 2 可能会减少检索文件的网络流量。选项 3 仅在文件非常小的情况下才有效,因为它会显着增加序列化 DoFn
的大小,这可能导致作业太大而无法提交到 Dataflow 服务。
关于java - 在 Google Dataflow 中作为 DataflowPipelineRunner 运行时访问资源文件,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/39649173/
这里的这个问题对 updating Google Sheets charts linked to Google slides 有一个简洁的解决方案. function onOpen() { var
我正在尝试将 Google 表单添加到 Google 类作业中,但似乎不可能。 首先,它在这里 ( https://developers.google.com/classroom/reference/
出于某种原因,无论我做什么以及我如何尝试,这个日期格式化程序都不起作用。工具提示仍然显示错误的格式。你可以试试代码here . 在代码中我必须注释掉 formatter.format(dataTabl
我目前正在使用访问 token 和刷新 token 从 Google Analytics Reporting API (v4) 中提取数据。当我致力于自动从 Google Analytics 中提取数
我已在 Google 云端硬盘中创建了一个文件夹,例如测试一下,放入3个文件 a.jpg, b.jpg, c.jpg 我希望在同一帐户下的 Google 电子表格中访问文件,例如生成图像文件的链接,可
电子表格 A 是欢迎新移民来到我们小镇的团队的主数据源。它里面有大量非常敏感的数据,不能公开,哪怕是一点点。 (我们谈论的是 child 的姓名和出生日期以及他们在哪里上学……保证电子表格 A 的安全
有没有办法在 Google 文档中编写 Google Apps 脚本以从 Google 表格中检索仅限于非空白行的范围并将这些行显示为表格? 我正在寻找一个脚本,用于使用 Google Apps 脚本
有没有办法在 Google 文档中编写 Google Apps 脚本以从 Google 表格中检索仅限于非空白行的范围并将这些行显示为表格? 我正在寻找一个脚本,用于使用 Google Apps 脚本
尝试检索存储在 google firebase 中名为条目的节点下的表单条目,并使用谷歌工作表中的脚本编辑器附加到谷歌工作表。 我已将 FirebaseApp 库添加到谷歌表脚本编辑器。然后我的代码看
是否可以将我的 Web 应用程序的登录限制为仅限 google 组中的帐户? 我不希望每个人都可以使用他们的私有(private) gmail 登录,而只能使用我的 google 组中的用户。 最佳答
我们想使用 Google 自定义搜索实现 Google 附加链接搜索框。在谷歌 documentation , 我发现我们需要包含以下代码来启用附加链接搜索框 { "@context"
我想将特定搜索词的 Google 趋势图表添加到我的 Google Data Studio 报告中,但趋势不是数据源列表中的选项。我也找不到嵌入 JavaScript 的选项。是否可以将趋势图表添加到
是否可以将文件从 Google Drive 复制到 Google Cloud Storage?我想它会非常快,因为两者都在类似的存储系统上。 我还没有看到有关无缝执行此操作的任何方法的任何信息,而无需
之间有什么区别 ga('send', 'pageview', { 'dimension1': 'data goes here' }); 和 ga('set', 'dimension1', 'da
我正在尝试记录每个博客站点作者的点击率。 ga('send', 'pageview'); (in the header with the ga code to track each page) ga(
我设置了 Google Tag Manager 和 2 个数据层变量:一个用于跟踪用户 ID,传递给 Google Analytics 以同步用户 session ,另一个用于跟踪访问者类型。 在使用
我在我们的网站上遇到多个职位发布的问题。 我们在加拿大多个地点提供工作机会。所有职位页面都包含一个“LD+JSON ”职位发布的结构化数据,基于 Google 的职位发布文档: https://dev
公司未使用 Google 套件,使用个人(消费者)帐户(甚至是 Google 帐户)违反公司政策。 需要访问 Google Analytics - 没有 Google 帐户是否可能? 谢谢 最佳答案
我想分析人们使用哪些搜索关键字在 Play 商店中找到我的应用。 那可能吗?我怎么能这样做? 最佳答案 自 2013 年 10 月起,您可以关联您的 Google Analytics(分析)和 Goo
Google Now 和 Google Keep 中基于时间和位置的提醒与 Google Calendar 事件提醒不同。是否有公共(public) API 可以访问 Now 和 Keep 中的这些事
我是一名优秀的程序员,十分优秀!