- iOS/Objective-C 元类和类别
- objective-c - -1001 错误,当 NSURLSession 通过 httpproxy 和/etc/hosts
- java - 使用网络类获取 url 地址
- ios - 推送通知中不播放声音
我有一个网站,可以分析来自社交媒体的一些内容
或其他网站,以保持信息最新。你知道Instagram不会
使用“beatifulsoup python parser”或其他方法,因为您必须登录,并且必须能够运行js,否则将无法加载。其他人也会这样。
出于这个原因,我在客户端运行了一些js脚本,使用google chrome控制台,这个脚本将数据保存在本地存储中。
问题是有时我的网速很低,或者我必须在我的电脑上运行这个脚本,这需要很多时间。也许不多,但每天都在做,这就成了真正的问题。
我想在服务器端完成这项工作,总有很高的网速,而且我可以随时用手机启动脚本
或者在任何地方,我都在想如何实现。
我需要一个服务器端的浏览器,它可以运行js,而且一切都和客户端一样。
启动浏览器
等待页面加载
运行一些js脚本
大多数服务器没有图形界面,只返回html代码。
但是有很多主机服务、java服务器等等,不仅仅是apach或者nginx。在Java上,我知道你可以创建自己的浏览器,
所以在服务器上运行浏览器功能是有可能的。
问题是,有没有现成的工具,我可以使用,或者也许写这种功能,但使用库,框架能够写得尽可能快,不花很多时间。因为我没有工作,要在服务器端创建浏览器,我只想能够运行一些js。
我使用php,js,python。客户机上只有Java SE和。javaee有很多库和大量的能力。也许有人知道哪种语言
我可以意识到这一点。任何框架,或者Linux上都有可能,或者有一个可以作为客户端运行的主机服务器,我认为有些公司会做这种工作来自动完成一些工作。
我在想幻影或nodejs,但我对他们来说是新的,我想我会花很多时间而没有结果。
任何建议,链接,意见,想法都会对我有很大帮助,谢谢!!!
phantomjs确实可以工作,但是您不能使用phantomjs登录,可能是因为它不保存cookie或会话数据,或者可能没有头,所以不要使用web刮板程序,只需在服务器上使用真正的浏览器。
phantomjs真的很不舒服,不方便什么的,因为测试你没有得到任何信息,它需要太长的时间,你不能只运行js脚本。
page.evaluate(function() {
setTimeout(function(){ document.getElementById("login").click(); console.log("click initialized"); }, 1000);
});
page.evaluateJavascript(function() {
});
最佳答案
我想你可以使用phantomjs,我已经用它完成了许多需要登录或js加载操作的蜘蛛。
您可以使用phantomjs登录,它可以设置cookie、会话数据和请求头。您只需搜索方法,如下所示:
phantomjs login Instagram
当您使用phantomjs时,最重要的是每次您想执行下一步时,都必须确保页面或相关元素加载完成。由于页面或js加载需要速度时间,有时还需要发送额外的参数来获取页面加载,否则如果没有相关元素,就无法启动下一步。
关于javascript - 如何在服务器上运行浏览器功能?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52380351/
我正在构建一个 RCP 应用程序,其中每个季度都会更新功能/插件。因此,如果用户选择自动更新功能/插件,则会下载更新插件的新 jar,但旧插件仍在使用我不再使用的磁盘空间。 我厌倦了删除包含旧 jar
我如何从外部 Controller 功能中调用 Controller 内部的功能,例如电话间隙回调功能 这是 Controller 外部定义的功能 function onDeviceReady()
如果某个功能(例如 MediaSource)可用,我如何使用 Google Dart 检查。 new MediaSource() 抛出一个错误。如何以编程方式检查此类或功能是否存在?有任何想法吗?是否
我正在尝试运行 Azure Orchestrations,突然我开始从 statusQueryGetUri 收到错误: 协调器函数“UploadDocumentOrchestrator”失败:函数“U
我见过 iPhone 上的应用程序,如果在 3.0 上运行,将使用 3.0 功能/API,例如应用内电子邮件编辑器,如果在 2.x 上运行,则不使用这些功能,并退出应用程序以启动邮件相反。 这是怎么做
这是 DB 规范化理论中的一个概念: Third normal form is violated when a non-key field is a fact about another non-ke
如果我定义 #if SOMETHING #endif 而且我还没有在任何地方定义 SOMETHING。 #if 中的代码会编译吗? 最佳答案 当#if的参数表达式中使用的名称未定义为宏时(在所有其他宏
我刚刚澄清了 A* 路径查找应该如何在两条路径具有相等值的 [情况] 下运行,无论是在计算期间还是在结束时,如果有两条相等的短路径。 例如,我在我的起始节点,我可以扩展到两个可能的节点,但它们都具有相
Java有没有类似下面的东西 宏 一种遍历所有私有(private)字段的方法 类似于 smalltalk symbols 的东西——即用于快速比较静态字符串的东西? 请注意,我正在尝试为 black
这个程序应该将华氏度转换为摄氏度: #include int main() { float fahrenheit, celsius; int max, min, step;
当打开PC缓存功能后, 软件将采用先进先出的原则排队对示波器采集的每一帧数据, 进行帧缓存。 当发现屏幕中有感兴趣的波形掠过时, 鼠标点击软件的(暂停)按钮, 可以选择回看某一帧的波形
我有一个特殊的(虚拟)函数,我想在沙盒环境中使用它: disable.system.call eval(parse(text = 'model.frame("1 ~ 1")'), envir = e
使用新的 Service 实现,我是否必须为我的所有服务提供一个 Options 方法? 使用我的所有服务当前使用的旧 ServiceBase 方法,OPTIONS 返回 OK,但没有 Access-
我正在阅读 Fogus 的关于 Clojure 的喜悦的书,在并行编程章节中,我看到了一个函数定义,它肯定想说明一些重要的事情,但我不知道是什么。此外,我看不到这个函数有什么用 - 当我执行时,它什么
我有大量的 C 代码,大部分代码被注释掉和/或 #if 0。当我使用 % 键匹配 if-else 的左括号和右括号时,它也匹配注释掉的代码。 有没有办法或vim插件在匹配括号时不考虑注释掉或#if 0
我有这个功能: map(map(fn x =>[x])) [[],[1],[2,3,4]]; 产生: val it = [[],[[1]],[[2],[3],[4]]] 我不明白这个功能是如何工作的。
我使用 Visual Studio 代码创建了一个函数应用程序,然后发布了它。功能应用程序运行良好。我现在在功能门户中使用代码部署功能(KUDU)并跳过构建。下面是日志 9:55:46 AM
我有一个数据框df: userID Score Task_Alpha Task_Beta Task_Charlie Task_Delta 3108 -8.00 Easy Easy
我真的无法解决这个问题: 我有一个返回数据框的函数。但是,数据框仅打印在我的控制台中,尽管我希望将其存储在工作空间中。我怎样才能做到这一点? 样本数据: n <- 32640 t <- seq(3*p
有没有办法找出所有可能的激活器命令行选项? activator -help仅提供最低限度的可用选项/功能列表,但所有好的东西都隐藏起来,即使在 typesafe 网站在线文档中也不可用。 到目前为止,
我是一名优秀的程序员,十分优秀!