- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我在 Mac 上使用 Python、Jupyter、Selenium webdriver 和 headless Chrome(带有 Canary)。
我写了一个脚本来抓取一个非常古老的网站,为了从该网站下载文件,我需要点击几个按钮,这些按钮最终会引导我进入一个按钮,点击后会下载一个 CSV 文件
问题是,当 headless Chrome 尝试下载目标文件时,它会暂停并且什么都不做(即不下载所需的文件),即使脚本已完成运行(是的,我确实在脚本末尾关闭了它)
我试过:
driver.execute_script(js_that_changes_plugins_and_langs)
更改驱动程序上的插件和语言 JS 脚本,但我不太确定如何检查它是否真的在执行它(而且它仍然无法正常工作) )我遇到的问题:
我对提供网站 URL 没有任何问题,但是:
我需要它是 headless 的,而不是普通的 Chrome,因为我们要运行代码的机器非常弱,无法运行 chrome GUI
所以我的问题是:有谁知道可能是什么问题?或者至少,我该如何调试它?
这或多或少是我正在使用的代码:
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
def enable_download_in_headless_chrome(driver, download_dir):
"""
there is currently a "feature" in chrome where
headless does not allow file download: https://bugs.chromium.org/p/chromium/issues/detail?id=696481
This method is a hacky work-around until the official chromedriver support for this.
Requires chrome version 62.0.3196.0 or above.
"""
# add missing support for chrome "send_command" to selenium webdriver
driver.command_executor._commands["send_command"] = ("POST", '/session/' + driver.session_id + '/chromium/send_command')
params = {'cmd': 'Page.setDownloadBehavior', 'params': {'behavior': 'allow', 'downloadPath': download_dir}}
command_result = driver.execute("send_command", params)
print("response from browser:")
for key in command_result:
print("result:" + key + ":" + str(command_result[key]))
chrome_options = webdriver.ChromeOptions()
chrome_options.add_argument('headless')
chrome_options.add_argument('no-sandbox')
chrome_options.add_argument('disable-gpu')
chrome_options.add_argument('remote-deubgging-port=9222')
chrome_options.add_argument('disable-popup-blocking')
chrome_options.add_argument('enable-logging')
download_dir = # some path here
driver = webdriver.Chrome(chrome_options=chrome_options)
enable_download_in_headless_chrome(driver, download_dir)
ok_button = driver.find_element_by_id('the-button-name')
ok_button.click()
感谢帮助
最佳答案
我认为这里有太多事件部件。如果你真的需要 Selenium ,以及所有其他的——好吧——没关系。但是,我会从尽可能简单的事情开始。
在 Python 2.7 上我使用的是 mechanize - 这样我就能够模拟与服务器的整个通信。今天这不是最好的选择,因为 python 3.X 是要走的路。我将描述我是如何处理这类问题的。只是为了给你更好的画面,然后我会尝试描述可能的工具。
典型的情况是登录,浏览页面,转动一些开关,触发下载,或获取内容并使用 beautiful soup 处理它。 .首先,您需要查看交换了哪些信息。在您的 Web 浏览器中转到开发工具,然后选择网络选项卡。 也许您知道这一点,但是这一步是强制性的,我想写一个一般性的答案。然后做您的正常工作 - 只需登录,然后执行其他步骤。服务器处理的所有事情都必须传输,因此您可以将其视为网络请求。 Mechanize 很好,因为我能够准备 dict
,并将其作为 post
请求发送到页面。关于 post
的写作 - 典型的错误是发布到页面地址。因此,如果您访问了 index.html
,那么您就是在该页面上执行 post
,而服务器希望它被发送到 add_user_data.html
并且在那之后你被重定向了。诸如 session ID 之类的东西可以由 header 条目或 cookie 支持 - 只需查看模式的网络通信即可。
正如我所写,Python 2.7 即将停产。 Mechanize 不适用于 Python 3.x,因此应使用其他工具。您可以寻找机械化替代品,看看适合您的是什么。典型的答案是 scrapy .这是一个有点不同的工具,更多地用于废弃网页。因此,如果您计划更大的事情,那也许是最好的选择。如果您需要单个脚本 - 我将从 httpie 开始.命令行工具/python包,良好的OSX支持,你可以send form , session management也可用。我每天都在使用它,但是我的服务器是无状态的。
我会更乐意提供准确的示例,但没有服务器信息是不可能的。你能附上你的示例 session 的转储吗?将其匿名化,我将提供样本样本,或者其他工具可能会更好?
关于python - 尝试下载文件时,使用 Python 的 Headless Chrome 会暂停,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48630484/
今天我在一个 Java 应用程序中看到了几种不同的加载文件的方法。 文件:/ 文件:// 文件:/// 这三个 URL 开头有什么区别?使用它们的首选方式是什么? 非常感谢 斯特凡 最佳答案 file
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
我有一个 javascript 文件,并且在该方法中有一个“测试”方法,我喜欢调用 C# 函数。 c# 函数与 javascript 文件不在同一文件中。 它位于 .cs 文件中。那么我该如何管理 j
需要检查我使用的文件/目录的权限 //filePath = path of file/directory access denied by user ( in windows ) File fil
我在一个目录中有很多 java 文件,我想在我的 Intellij 项目中使用它。但是我不想每次开始一个新项目时都将 java 文件复制到我的项目中。 我知道我可以在 Visual Studio 和
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 这个问题似乎不是关于 a specific programming problem, a software
我有 3 个组件的 Twig 文件: 文件 1: {# content-here #} 文件 2: {{ title-here }} {# content-here #}
我得到了 mod_ldap.c 和 mod_authnz_ldap.c 文件。我需要使用 Linux 命令的 mod_ldap.so 和 mod_authnz_ldap.so 文件。 最佳答案 从 c
我想使用PIE在我的项目中使用 IE7。 但是我不明白的是,我只能在网络服务器上使用 .htc 文件吗? 我可以在没有网络服务器的情况下通过浏览器加载的本地页面中使用它吗? 我在 PIE 的文档中看到
我在 CI 管道中考虑这一点,我应该首先构建和测试我的应用程序,结果应该是一个 docker 镜像。 我想知道使用构建环境在构建服务器上构建然后运行测试是否更常见。也许为此使用构建脚本。最后只需将 j
using namespace std; struct WebSites { string siteName; int rank; string getSiteName() {
我是 Linux 新手,目前正在尝试使用 ginkgo USB-CAN 接口(interface) 的 API 编程功能。为了使用 C++ 对 API 进行编程,他们提供了库文件,其中包含三个带有 .
我刚学C语言,在实现一个程序时遇到了问题将 test.txt 文件作为程序的输入。 test.txt 文件的内容是: 1 30 30 40 50 60 2 40 30 50 60 60 3 30 20
如何连接两个tcpdump文件,使一个流量在文件中出现一个接一个?具体来说,我想“乘以”一个 tcpdump 文件,这样所有的 session 将一个接一个地按顺序重复几次。 最佳答案 mergeca
我有一个名为 input.MP4 的文件,它已损坏。它来自闭路电视摄像机。我什么都试过了,ffmpeg , VLC 转换,没有运气。但是,我使用了 mediainfo和 exiftool并提取以下信息
我想做什么? 我想提取 ISO 文件并编辑其中的文件,然后将其重新打包回 ISO 文件。 (正如你已经读过的) 我为什么要这样做? 我想开始修改 PSP ISO,为此我必须使用游戏资源、 Assets
给定一个 gzip 文件 Z,如果我将其解压缩为 Z',有什么办法可以重新压缩它以恢复完全相同的 gzip 文件 Z?在粗略阅读了 DEFLATE 格式后,我猜不会,因为任何给定的文件都可能在 DEF
我必须从数据库向我的邮件 ID 发送一封带有附件的邮件。 EXEC msdb.dbo.sp_send_dbmail @profile_name = 'Adventure Works Admin
我有一个大的 M4B 文件和一个 CUE 文件。我想将其拆分为多个 M4B 文件,或将其拆分为多个 MP3 文件(以前首选)。 我想在命令行中执行此操作(OS X,但如果需要可以使用 Linux),而
快速提问。我有一个没有实现文件的类的项目。 然后在 AppDelegate 我有: #import "AppDelegate.h" #import "SomeClass.h" @interface A
我是一名优秀的程序员,十分优秀!