『爬虫四步走』手把手教你使用Python抓取并存储网页数据！

爬虫是Python的一个重要的应用，使用Python爬虫我们可以轻松的从互联网中抓取我们想要的数据，**本文将基于爬取B站视频热搜榜单数据并存储为例，详细介绍Python爬虫的基本流程。**如果你还在入门爬虫阶段或者不清楚爬虫的具体工作流程，那么应该仔细阅读本文！

第一步：尝试请求

首先进入b站首页，点击排行榜并复制链接

https://www.bilibili.com/ranking?spm_id_from=333.851.b_7072696d61727950616765546162.3  

现在启动Jupyter notebook，并运行以下代码

import requests  
  
url = 'https://www.bilibili.com/ranking?spm_id_from=333.851.b_7072696d61727950616765546162.3'  
res = requests.get('url')  
print(res.status_code)  
#200  

在上面的代码中，我们完成了下面三件事

• 导入requests

• 使用get方法构造请求

• 使用status_code获取网页状态码

可以看到返回值是200，表示服务器正常响应，这意味着我们可以继续进行。

第二步：解析页面

在上一步我们通过requests向网站请求数据后，成功得到一个包含服务器资源的Response对象，现在我们可以使用.text来查看其内容

可以看到返回一个字符串，里面有我们需要的热榜视频数据，但是直接从字符串中提取内容是比较复杂且低效的，因此我们需要对其进行解析，将字符串转换为网页结构化数据，这样可以很方便地查找HTML标签以及其中的属性和内容。

在Python中解析网页的方法有很多，可以使用正则表达式，也可以使用BeautifulSoup、pyquery或lxml，本文将基于BeautifulSoup进行讲解.

Beautiful Soup是一个可以从HTML或XML文件中提取数据的第三方库.安装也很简单，使用pip install bs4安装即可，下面让我们用一个简单的例子说明它是怎样工作的

from bs4 import BeautifulSoup  
  
page = requests.get(url)  
soup = BeautifulSoup(page.content, 'html.parser')  
title = soup.title.text   
print(title)  
# 热门视频排行榜 - 哔哩哔哩 (゜-゜)つロ 干杯~-bilibili  

在上面的代码中，我们通过bs4中的BeautifulSoup类将上一步得到的html格式字符串转换为一个BeautifulSoup对象，注意在使用时需要制定一个解析器，这里使用的是html.parser。

接着就可以获取其中的某个结构化元素及其属性，比如使用soup.title.text获取页面标题，同样可以使用soup.body、soup.p等获取任意需要的元素。

第三步：提取内容

在上面两步中，我们分别使用requests向网页请求数据并使用bs4解析页面，现在来到最关键的步骤：如何从解析完的页面中提取需要的内容。

在Beautiful Soup中，我们可以使用find/find_all来定位元素，但我更习惯使用CSS选择器.select，因为可以像使用CSS选择元素一样向下访问DOM树。

现在我们用代码讲解如何从解析完的页面中提取B站热榜的数据，首先我们需要找到存储数据的标签，在榜单页面按下F12并按照下图指示找到

可以看到每一个视频信息都被包在class="rank-item"的li标签下，那么代码就可以这样写

all_products = []  
  
products = soup.select('li.rank-item')  
for product in products:  
    rank = product.select('div.num')[0].text  
    name = product.select('div.info > a')[0].text.strip()  
    play = product.select('span.data-box')[0].text  
    comment = product.select('span.data-box')[1].text  
    up = product.select('span.data-box')[2].text  
    url = product.select('div.info > a')[0].attrs['href']  
  
    all_products.append({  
        "视频排名":rank,  
        "视频名": name,  
        "播放量": play,  
        "弹幕量": comment,  
        "up主": up,  
        "视频链接": url  
    })  

在上面的代码中，我们先使用soup.select('li.rank-item')，此时返回一个list包含每一个视频信息，接着遍历每一个视频信息，依旧使用CSS选择器来提取我们要的字段信息，并以字典的形式存储在开头定义好的空列表中。

可以注意到我用了多种选择方法提取去元素，这也是select方法的灵活之处，感兴趣的读者可以进一步自行研究。

第四步：存储数据

通过前面三步，我们成功的使用requests+bs4从网站中提取出需要的数据，最后只需要将数据写入Excel中保存即可。

如果你对pandas不熟悉的话，可以使用csv模块写入，需要注意的是设置好编码encoding='utf-8-sig'，否则会出现中文乱码的问题

import csv  
keys = all_products[0].keys()  
  
with open('B站视频热榜TOP100.csv', 'w', newline='', encoding='utf-8-sig') as output_file:  
    dict_writer = csv.DictWriter(output_file, keys)  
    dict_writer.writeheader()  
    dict_writer.writerows(all_products)  

如果你熟悉pandas的话，更是可以轻松将字典转换为DataFrame，一行代码即可完成

import pandas as pd  
keys = all_products[0].keys()  
  
pd.DataFrame(all_products,columns=keys).to_csv('B站视频热榜TOP100.csv', encoding='utf-8-sig')

小结

至此我们就成功使用Python将b站热门视频榜单数据存储至本地，大多数基于requests的爬虫基本都按照上面四步进行。

不过虽然看上去简单，但是在真实场景中每一步都没有那么轻松，从请求数据开始目标网站就有多种形式的反爬、加密，到后面解析、提取甚至存储数据都有很多需要进一步探索、学习。

本文选择B站视频热榜也正是因为它足够简单，希望通过这个案例让大家明白爬虫的基本流程，最后附上完整代码

import requests  
from bs4 import BeautifulSoup  
import csv  
import pandas as pd  
  
url = 'https://www.bilibili.com/ranking?spm_id_from=333.851.b_7072696d61727950616765546162.3'  
page = requests.get(url)  
soup = BeautifulSoup(page.content, 'html.parser')  
  
all_products = []  
  
products = soup.select('li.rank-item')  
for product in products:  
    rank = product.select('div.num')[0].text  
    name = product.select('div.info > a')[0].text.strip()  
    play = product.select('span.data-box')[0].text  
    comment = product.select('span.data-box')[1].text  
    up = product.select('span.data-box')[2].text  
    url = product.select('div.info > a')[0].attrs['href']  
  
    all_products.append({  
        "视频排名":rank,  
        "视频名": name,  
        "播放量": play,  
        "弹幕量": comment,  
        "up主": up,  
        "视频链接": url  
    })  
  
  
keys = all_products[0].keys()  
  
with open('B站视频热榜TOP100.csv', 'w', newline='', encoding='utf-8-sig') as output_file:  
    dict_writer = csv.DictWriter(output_file, keys)  
    dict_writer.writeheader()  
    dict_writer.writerows(all_products)  
  
### 使用pandas写入数据  
pd.DataFrame(all_products,columns=keys).to_csv('B站视频热榜TOP100.csv', encoding='utf-8-sig')  

end

目前在编程语言兵器排行榜上，最火的两门语言就是Python和Java。二者各有千秋Java比较好找工作，Python使用面非常广，而且简单易学可以干很多事情，很多同学两门都在学。于是小编整理了资料送给大家，帮你加油打call。

准备了一门非常系统的Python课程，除了为你提供一条清晰、无痛的学习路径，我们甄选了最实用的学习资源以及庞大的主流爬虫案例库。短时间的学习，你就能够很好地掌握爬虫这个技能，获取你想得到的数据，需要的朋友可以扫描文末二维码即可获取。

01 专为0基础设置，小白也能轻松学会

我们把Python的所有知识点，都穿插在了漫画里面。

在Python小课中，你可以通过漫画的方式学到知识点，难懂的专业知识瞬间变得有趣易懂。

你就像漫画的主人公一样，穿越在剧情中，通关过坎，不知不觉完成知识的学习。

02 无需自己下载安装包，提供详细安装教程

03 规划详细学习路线，提供学习视频

04 提供实战资料，更好巩固知识

05 提供面试资料以及副业资料，便于更好就业

这份完整版的Python全套学习资料已经上传CSDN，朋友们如果需要也可以扫描下方csdn官方二维码或者点击主页和文章下方的微信卡片获取领取方式，【保证100%免费】