美团爬虫

爬取美团数据三个方法
一 ,App
二,网页
三,微信小程序
APP(数量最全 难度最大 反hook 反抓包 还有各种加密)网页端(数量少 但是开发简单 只要js的加密参数)微信小程序(数量合适 难度也还行)所以最后对比决定走微信小程序
模拟器一个 安装微 信 和其他的(去看我其他文章)
开始抓包 分别是这两个URL
列表URL ‘https://wx.waimai.meituan.com/weapp/v2/poi/channelpage’
店家详情URL ‘https://wx.waimai.meituan.com/weapp/v1/poi/info’
发现他和网页端都加密方式差不多都是_token (网上一大堆破解都算法 我也就不说了 )
找到一个可用的 开始地图打点,这些基本上都是常规操作 我也就不说了
我说几点注意事项
一 cookie 经过我测试 cookie很少会过期 几乎不会 如果遇到提示 请登录 可以sleep一下 如果还不行 再去看一下模拟器里面是否过期 可以写一个自动登录都按键精灵

image.png

image.png

然后就是我遇到都一个问题 地图打点的时候 会遇到第一次打点采集不到 但是第二次就可以 我不知道这是怎么回事 不过这个也有解决办法 while True 一直采集
image.png

有需要数据都朋友可以加我微信

你可能感兴趣的:(美团爬虫)