本来打算在完成事件中分析页面的,可是郁闷了半天,根本就没有完成处理函数的调用,搜索得到解决,在此感谢原文作者http://www.soaspx.com/dotnet/csharp/csharp_20100315_3210.html
我们在做采集软件的时候有些网站通过直接分析html文本是很麻烦的事情在利用WinForm编程的情况下有一种更好的方式当然是分析HtmlDocument然而,这HtmlDoucment并不能直接创建它必须由 WebBroswer控件Navigate生成一个页面后才能取得wb.HtmlDocument然后就可以对HtmlDocument的各元素、标签进行分析。事实上,在采集的时候并不是采集只会采集单个页面这样的话,在主窗体中就可以完成譬如采集一些列表页面,有N多个页那么,一个循环下去,用WebBrowser去响应,那就会导致假死这时候,我们肯定会想到用多线程去做这件事情C#的多线程,大家应该都知道,有STA,MTA两种模式然而,WebBrowser控件却有一个不好的特点那就是:它只支持多线程STA模式例如下面的代码,
Thread tread = new Thread(new ParameterizedThreadStart(BeginCatch));
tread.SetApartmentState(ApartmentState.STA);
tread.Start(url);
代码
private void BeginCatch(object obj)
{
string url = obj.ToString();
WebBrowser wb = new WebBrowser();
wb.ScriptErrorsSuppressed = true;
wb.Navigate(url);
wb.DocumentCompleted += new WebBrowserDocumentCompletedEventHandler(wb_DocumentCompleted);
}
需要分析WebBrowser产生 的HtmlDocument时,必须在事件DocumentCompleted里面去操作只有这时候,WebBrowser才算加载完成不过,这只是一个陷阱!!!!WebBrowser有一个特性,那就是在多线程STA的时候,根本就不等到DocumentCompleted的执行也就是无法再进行后面的操作!!!这样的话,我们该如何办呢?也许有人会想:wb.Document.Write(string)方法,如下:
代码
但这时候,我们会发现,wb.DocumentText总是没有的当时我也很郁闷,搜索园子里的文章与MSDN,都是可以用DocumentText赋值的但也在网上发现了很多说操作后没有结果的经过努力搜索在园子里发现了一篇有用的文章里提到的一个例子经过测试后发现WebBrowser必须经过Navigate后才会产生Document于是忽,终于可以实现了多线程下面的操作了最终代码如下
代码
当然,在线程里面处理每个结点与数据库操作的时候,可以用ThreadPool这样效果与性能可能好一些最后说一下我自己对这个的一点改进建议,在处理含有中文字符的网页是,上面给的那个GetHtmlSource(string Url)
拿回来的数据可能会乱码,我是用webclent 来下载的,设置合适的字符集就没有乱码了,
代码
private void BeginCatch(object obj)
{
string url = obj.ToString();
WebBrowser wb = new WebBrowser();
wb.ScriptErrorsSuppressed = true;
string htmlcode = GetHtmlSource(url);
wb.Document.Write(htmlcode);
//执行分析操作
}
//WebClient取网页源码
private string GetHtmlSource(string Url)
{
string text1 = "";
try
{
System.Net.WebClient wc = new WebClient();
text1 = wc.DownloadString(Url);
}
catch (Exception exception1)
{}
return text1;
}
但这时候,我们会发现,wb.DocumentText总是没有的当时我也很郁闷,搜索园子里的文章与MSDN,都是可以用DocumentText赋值的但也在网上发现了很多说操作后没有结果的经过努力搜索在园子里发现了一篇有用的文章里提到的一个例子经过测试后发现WebBrowser必须经过Navigate后才会产生Document于是忽,终于可以实现了多线程下面的操作了最终代码如下
代码
private void ThreadWebBrowser(string url)
{
Thread tread = new Thread(new ParameterizedThreadStart(BeginCatch));
tread.SetApartmentState(ApartmentState.STA);
tread.Start(url);
}
private void BeginCatch(object obj)
{
string url = obj.ToString();
WebBrowser wb = new WebBrowser();
wb.ScriptErrorsSuppressed = true;
//在这里Navigate一个空白页面
wb.Navigate("about:blank");
string htmlcode = GetHtmlSource(url);
wb.Document.Write(htmlcode);
//执行分析操作 ……(略)
}
//WebClient取网页源码
private string GetHtmlSource(string Url)
{
string text1 = "";
try
{
System.Net.WebClient wc = new WebClient();
text1 = wc.DownloadString(Url);
}
catch (Exception exception1)
{}
return text1;
}
当然,在线程里面处理每个结点与数据库操作的时候,可以用ThreadPool这样效果与性能可能好一些最后说一下我自己对这个的一点改进建议,在处理含有中文字符的网页是,上面给的那个GetHtmlSource(string Url)
拿回来的数据可能会乱码,我是用webclent 来下载的,设置合适的字符集就没有乱码了,