阅读网站上的特定文本
本文关键字:文本 网站 | 更新日期: 2023-09-27 18:25:54
我正在尝试创建一个数据库,但我需要从网站获取信息。主要是IMDB网站上的标题、日期、长度和流派。我尝试了大约50种不同的方法,但都不起作用。这是我的密码。
public string GetName(string URL)
{
HtmlWeb web = new HtmlWeb();
HtmlDocument doc = web.Load(URL);
var Attr = doc.DocumentNode.SelectNodes("//*[@id='"overview - top'"]/h1/span[1]@itemprop")[0];
return Name;
}
当我运行这个程序时,它只会给我一个XPathException。我只想让它返回电影的标题。我现在只是以这部电影为例进行测试,但我希望它能适用于所有电影http://www.imdb.com/title/tt0405422我正在使用HtmlAgilityPack。
XPath的最后一位无效。同样,要从HtmlDocument()
中只获得单个元素,可以使用SelectSingleNode()
而不是SelectNodes()
:
HtmlWeb web = new HtmlWeb();
HtmlDocument doc = web.Load("http://www.imdb.com/title/tt0405422/");
var xpath = "//*[@id='overview-top']/h1/span[@class='itemprop']";
var span = doc.DocumentNode.SelectSingleNode(xpath);
var title = span.InnerText;
Console.WriteLine(title);
输出:
The 40-Year-Old Virgin
演示链接:*
https://dotnetfiddle.net/P7U5A7
*)演示显示打印出了正确的标题,以及.NET Fiddle特有的错误(您可以安全地忽略该错误)。
我制作了一些熟悉的东西,这是我从imdb.com网站获取信息的代码
string html = getUrlData(imdbUrl + "combined");
Id = match(@"<link rel=""canonical"" href=""http://www.imdb.com/title/(tt'd{7})/combined"" />", html);
if (!string.IsNullOrEmpty(Id))
{
status = true;
Title = match(@"<title>(IMDb '- )*(.*?) '(.*?</title>", html, 2);
OriginalTitle = match(@"title-extra"">(.*?)<", html);
Year = match(@"<title>.*?'(.*?('d{4}).*?').*?</title>", html);
Rating = match(@"<b>('d.'d)/10</b>", html);
Genres = matchAll(@"<a.*?>(.*?)</a>", match(@"Genre.?:(.*?)(</div>|See more)", html));
Directors = matchAll(@"<td valign=""top""><a.*?href=""/name/.*?/"">(.*?)</a>", match(@"Directed by</a></h5>(.*?)</table>", html));
Cast = matchAll(@"<td class=""nm""><a.*?href=""/name/.*?/"".*?>(.*?)</a>", match(@"<h3>Cast</h3>(.*?)</table>", html));
Plot = match(@"Plot:</h5>.*?<div class=""info-content"">(.*?)(<a|</div)", html);
Runtime = match(@"Runtime:</h5><div class=""info-content"">('d{1,4}) min['s]*.*?</div>", html);
Languages = matchAll(@"<a.*?>(.*?)</a>", match(@"Language.?:(.*?)(</div>|>.?and )", html));
Countries = matchAll(@"<a.*?>(.*?)</a>", match(@"Country:(.*?)(</div>|>.?and )", html));
Poster = match(@"<div class=""photo"">.*?<a name=""poster"".*?><img.*?src=""(.*?)"".*?</div>", html);
if (!string.IsNullOrEmpty(Poster) && Poster.IndexOf("media-imdb.com") > 0)
{
Poster = Regex.Replace(Poster, @"_V1.*?.jpg", "_V1._SY200.jpg");
PosterLarge = Regex.Replace(Poster, @"_V1.*?.jpg", "_V1._SY500.jpg");
PosterFull = Regex.Replace(Poster, @"_V1.*?.jpg", "_V1._SY0.jpg");
}
else
{
Poster = string.Empty;
PosterLarge = string.Empty;
PosterFull = string.Empty;
}
ImdbURL = "http://www.imdb.com/title/" + Id + "/";
if (GetExtraInfo)
{
string plotHtml = getUrlData(imdbUrl + "plotsummary");
}
//Match single instance
private string match(string regex, string html, int i = 1)
{
return new Regex(regex, RegexOptions.Multiline).Match(html).Groups[i].Value.Trim();
}
//Match all instances and return as ArrayList
private ArrayList matchAll(string regex, string html, int i = 1)
{
ArrayList list = new ArrayList();
foreach (Match m in new Regex(regex, RegexOptions.Multiline).Matches(html))
list.Add(m.Groups[i].Value.Trim());
return list;
}
也许你会发现一些有用的