从网站检索动态加载的数据
本文关键字:数据 加载 动态 网站 检索 | 更新日期: 2023-09-27 18:33:46
我正在尝试检索使用散列链接动态加载到网页上的数据,即 http://www.westfield.com.au/au/retailers#page=5
我的问题是使用什么技术将数据加载到页面上?
其次,如何使用 C# 检索此数据?
到目前为止,我的尝试已经使用WebClient下载此链接的页面,不幸的是,无论我使用哪个页面链接,html文件都只包含第一页的数据。
使用什么技术将数据加载到页面上?
JavaScript 用于从服务器加载数据,将其解析为 HTML 并将其放在 DOM 中的正确位置。
其次,如何使用 C# 检索此数据?
向以下请求:http://www.westfield.com.au/api/v1/countries/au/retail-chains/search.json?page=5
,它将返回一个包含所需数据的结构化 JSON 文档。
如果你只需要JSON结构,Jon的回答听起来是一个很好的起点。
如果你想要一个好的堆栈来真正渲染抓取,我会使用 phantomjs 和 Selenium 的组合来帮助桥接到 .net。
本文是一个很好的起点。