微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

php – 通过Web Scraping提取JavaScript变量值

对于公司项目,我需要使用PHPJavaScript(包括jQuery)创建一个Web抓取应用程序,该应用程序将从客户网站的每个页面提取特定数据.抓取应用程序需要为每个页面获取两种类型的数据:1)确定是否存在具有特定ID的某些HTML元素,以及2)提取特定JavaScript变量的值.每个页面上的JS变量名称都相同,但值通常不同.

我相信我知道如何获得第一个数据要求:使用PHP file_get_contents()函数获取每个页面的HTML,然后使用JavaScript / jQuery来解析该HTML并搜索具有特定ID的元素.但是,我不确定如何获取第二个数据 – JavaScript变量值.甚至在每个页面的HTML中都找不到JavaScript变量;相反,它可以在链接页面的外部JavaScript文件中找到.即使JavaScript嵌入在页面的HTML中,我也知道file_get_contents()只会提取JavaScript代码(和其他HTML)而不是任何变量值.

任何人都可以建议一个很好的方法来获得给定网站的每个页面的变量值吗?

编辑:只是为了澄清,我需要在JavaScript代码运行后的JavaScript变量的值.这样的事情甚至可能吗?

解决方法:

大概这是不可能的,因为它看起来很简单,但如果它是你的.js你试图检测,为什么不只是有.js通过刮到页面做一些可检测的东西?

使用js在某处填充这样的标签(通过element.innerHTML,大概):

<span><!--Important js thing has been activated!--></span>.   

编辑:或者,也许使用document.write,如果脚本需要可检测onload

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐