关于c#写的网络爬虫

这几天看书 时,看到里面介绍了爬虫Heritrix,感觉很有意思,但它的源码太大了 ,不过,最让我不能接收的是,它在我家里的网络上居然不能抓取,很是郁闷。于是就到网上搜了一下,发现网络爬虫还真不少。不过全都是Java,居然没看到一个c#, 不过,好在,还是找到了一个,如果有哪位兄弟看来其它的c#写的网络爬虫,不妨留个连接。

下面链接就是一个c#写的网络爬虫,上面是翻译版 ,下面是英文原版
http://blog.csdn.net/wangkun9999/archive/2007/05/02/1594496.aspx
http://www.codeproject.com/cs/internet/Crawler.asp

另外,爬虫抓下来的东西要进行分析是必然的了,但c#中好像没有HTML解析器,特别是对那种不太规范的HTML,这里是一些c#解析HTML的资料。
http://www.codeproject.com/csharp/html2xhtmlcleaner.asp
http://www.pcxy.net/Article/netprogramme/xml/Article_36767.html
http://www.cnblogs.com/dragon/archive/2006/12/06/174946.html

你可能感兴趣的:(技术文章,Web开发)