Python爬虫抓取小说内容——20180314

首先，在这个日子，让我为科学巨星——霍金哀悼！一路走好！

该文章主要为我个人对Jack Gui的小说爬虫代码的理解，侵删。

原作者网址：http://cuijiahua.com/blog/2017/10/spider_tutorial_1.html

# WARNING：以下所有注释均为个人理解，仅供参考！不具有权威性！
# -*- coding: UTF-8 -*-
from bs4 import BeautifulSoup
import requests,sys

#定义一个下载的类
class downloader(object):

	def __init__(self):
		self.server = 'http://www.biqukan.com/'
		self.target = 'http://www.biqukan.com/1_1094/'
		self.names = []		#存放各章节名称
		self.urls = []		#存放各章节地址(url)
		self.nums = 0		#存放章节数目
	
	#获得各章节的URL
	def get_download_url(self):
		req = requests.get(url = self.target)				#根据当前url获得网页回应
		html = req.text										#获取回应中的HTML内容
		div_bf = BeautifulSoup(html,'html.parser')			#利用BS函数对HTMl内容进行处理，具体请参照BS函数用法：http://beautifulsoup.readthedocs.io/zh_CN/latest/
		div = div_bf.find_all('div',class_ = 'listmain')	#获得html中class=’listmain'的div部分
		a_bf = BeautifulSoup(str(div[0]),'html.parser')		#获取div[0]部分的内容并对其进行处理
		a = a_bf.find_all('a')								#获取div[0]中a的部分
		self.nums = len(a[15:])								#去除前15个章节
		for each in a[15:]:									#将章节名称和URL导入
			self.names.append(each.string)
			self.urls.append(self.server + each.get('href'))#each.get('href')获取a中包含的相对地址
			
	#通过URL抓取各章节内容		
	def get_contents(self, target):
		req = requests.get(url = target)					#获取网页回应
		html = req.text										#获取此章节html内容
		bf = BeautifulSoup(html,'html.parser')				#进行处理
		texts = bf.find_all('div',class_ = 'showtxt')		#获得showtxt部分（通过分析网页的源代码发现小说内容在showtxt中）
		texts = texts[0].text.replace('\xa0'*8,'\n\n')		#删除段落中的8个空格
		return texts
		
	#将小说内容写入文件
	def writer(self, name, path, text):						#name为章节名，path为文件路径(名)
		with open(path, 'a', encoding='utf-8') as f:
			f.write(name + '\n')							#写入该章节名称
			f.writelines(text)								#写入该章节内容(writelines为写入list)
			f.write('\n\n')

if __name__ == '__main__':
	dl = downloader()
	dl.get_download_url()
	print('《一念永恒》开始下载：')
	for i in range(dl.nums):
		dl.writer(dl.names[i],'一念永恒.txt',dl.get_contents(dl.urls[i]))
		sys.stdout.write("  已下载：%.3f%%" % float(i/dl.nums*100) + '\r')
		sys.stdout.flush()
	print('《一念永恒》下载完成')