老师讲到请求的时候要带请求头,但是为什么要带呢

来源:3-12 选择练习

慕粉3125272

2019-06-08 11:18:30

老师讲到请求的时候要带请求头,但是为什么要带呢,我看前面的例子就只是带个参数呀

写回答

1回答

慕猿梦

2019-06-09

同学,您好,在使用python爬虫爬取数据的时候,经常会遇到一些网站的反爬虫措施,一般就是针对于headers中的User-Agent,如果没有对headers进行设置,User-Agent会声明自己是python脚本,而如果网站有反爬虫机制的话,必然会拒绝这样的连接。而修改headers可以将自己的爬虫脚本伪装成浏览器的正常访问。

如果我的回答解决了您的疑惑,欢迎采纳!!祝学习愉快~~~~~

0

0 学习 · 1672 问题

查看课程