爱奇艺的VIP视频能被爬虫吗只有会員能看普通用户只能看前6分钟。比如加勒比海盗5的URL:
我们怎么免费看VIP视频能被爬虫吗呢一个简单的方法,就是通过旋风视频能被爬虫嗎VIP解析网站URL:
这个网站为我们提供了免费的视频能被爬虫吗解析,它的通用解析方式是:
比如对于绣春刀这个电影,我们只需要在浏覽器地址栏输入:
这样我们就可以在线观看这些VIP视频能被爬虫吗了:
python爬虫实战案例,爬取爱奇艺VIP视频能被爬虫吗!
但是这个网站只提供叻在线解析视频能被爬虫吗的功能没有提供下载接口,如果想把视频能被爬虫吗下载下来我们就可以利用网络爬虫进行抓包,将视频能被爬虫吗下载下来
分析方法相同,我们使用Fiddler进行抓包:
python爬虫实战案例爬取爱奇艺VIP视频能被爬虫吗!
我们可以看到,有用的请求并不哆我们逐条分析。我们先看第一个请求返回的信息
python爬虫实战案例,爬取爱奇艺VIP视频能被爬虫吗!
可以看到第一个请求是GET请求没有什麼有用的信息,继续看下一条
python爬虫实战案例,爬取爱奇艺VIP视频能被爬虫吗!
我们看到第二条GET请求地址变了,并且在返回的信息中我們看到,这个网页执行了一个POST请求POST请求是啥呢?它跟GET请求正好相反GET是从服务器获得数据,而POST请求是向服务器发送数据服务器再根据POST請求的参数,返回相应的内容这个POST请求有四个参数,分别为time、key、url、type记住这个有用的信息,我们在抓包结果中找一下这个请求,看看這个POST请求做了什么
python爬虫实战案例,爬取爱奇艺VIP视频能被爬虫吗!
很显然这个就是我们要找的POST请求,我们可以看到POST请求的参数以及返回嘚json格式的数据其中url存放的参数如下:
这个信息有转义了,但是没有关系我们手动提取一下,变成如下形式:
我们已经知道了这个解析視频能被爬虫吗的服务器的域名再把域名加上:
这里面存放的是什么东西?不会视频能被爬虫吗解析后的地址吧我们有浏览器打开这個地址看一下:
python爬虫实战案例,爬取爱奇艺VIP视频能被爬虫吗!
果然我们可以看到视频能被爬虫吗地址近在眼前啊,URL如下:
我们再打开这個视频能被爬虫吗地址:
python爬虫实战案例爬取爱奇艺VIP视频能被爬虫吗!
瞧,我们就这样得到了这个视频能被爬虫吗在服务器上的缓存地址根据这个地址,我们就可以轻松下载视频能被爬虫吗了
PS:需要注意一点,这些URL地址都是有一定时效性的,很快就会失效因为里面包含时间信息。所以各位在分析的时候,要根据自己的URL结果打开网站才能看到视频能被爬虫吗
接下来,我们的任务就是编程实现我们所分析的步骤根据不同的视频能被爬虫吗播放地址获得视频能被爬虫吗存放的地址。
现在梳理一下编程思路:
- 用正则表达式匹配到key、time、url等信息
- 根据匹配的到信息发POST请求,获得一个存放视频能被爬虫吗信息的url
- 根据这个url获得视频能被爬虫吗存放的地址。
- 根据最终的视频能被爬虫吗地址下载视频能被爬虫吗。
编写代码的时候注意一个问题就是我们需要使用requests.session()保持我们的会话请求。简单理解就是在初次访問服务器的时候,服务器会给你分配一个身份证明我们需要拿着这个身份证去继续访问,如果没有这个身份证明服务器就不会再让你訪问。这也就是这个服务器的反爬虫手段会验证用户的身份。
python爬虫实战案例爬取爱奇艺VIP视频能被爬虫吗!
注:想学习Python的小伙伴们进群:领取从0到1完整学习资料 视频能被爬虫吗 源码 精品书籍 一个月经典笔记和99道练习题及答案