代理ip软件

您的位置: 首页 > 新闻资讯 > 正文

如何通过requests使用代理IP进行爬虫工作

发布时间:2019-07-02 15:37:44 来源:挂机精灵

  如何通过requests使用代理IP进行爬虫工作?我们知道,一些网站会有相应的反爬虫措施,比如检测某些IP的访问次数或者访问频率,有些反人类的访问速度就会收到限制甚至封禁,所以在进行爬虫工作时也要讲究策略,比如使用代理IP,调整访问频率,设置UA等等,让我们来看看如何简单的使用代理IP。

如何通过requests使用代理IP进行爬虫工作

  #!/usr/bin/env python

  # -*- coding:utf-8 -*-

  import requests

  import random

  if __name__ == "__main__":

  #不同浏览器的UA

  header_list = [

  # 遨游

  {"user-agent": "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Maxthon 2.0)"},

  # 火狐

  {"user-agent": "Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1"},

  # 谷歌

  {

  "user-agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11"}

  ]

  #不同的代理IP(该代理ip可能已经失效,请自行去挂机精灵网站上购买开通)

  proxy_list = [

  {"http": "112.115.57.20:33128"},

  {‘http‘: ‘121.41.171.223:32128‘}

  ]

  #随机获取UA和代理IP

  header = random.choice(header_list)

  proxy = random.choice(proxy_list)

  url = ‘http://www.baidu.com/s?ie=UTF-8&wd=ip‘

  #参数3:设置代理

  response = requests.get(url=url,headers=header,proxies=proxy)

  response.encoding = ‘utf-8‘

  with open(‘daili.html‘, ‘wb‘) as fp:

  fp.write(response.content)

  #切换成原来的IP

  requests.get(url, proxies={"http": ""})


相关资讯

通过代理ip进行分布式爬虫的几种方案

假如不用代理ip,爬虫业务必定无路可行,因此大部分爬虫工作者都会去购买安全稳定的代理ip。使用了高质量的代理ip后,会不会就能够无后顾之忧了呢?这个可不会这么容

来源:互联网

2019-04-16 16:42:41

使用代理进行SEO有什么优势

使用代理进行SEO有什么优势?使用代理服务器进行SEO目的有很多好处。我们将列出最重要和最明显的一些。速度高质量的专用代理是非常强大的服务器,因此,它们最有可能

来源:挂机精灵

2019-05-06 15:33:58

如何选择合适的代理IP软件进行大数据营销

在大数据时代,企业的发展离不开数据的支持。企业通过爬虫收集数据信息,分析获取的数据,并制定适合他们的营销计划。在数据收集过程中,使用IP软件是必不可少的。尽管有

来源:挂机精灵

2019-05-14 14:57:24

如何通过requests使用代理IP进行爬虫工作

如何通过requests使用代理IP进行爬虫工作?我们知道,一些网站会有相应的反爬虫措施,比如检测某些IP的访问次数或者访问频率,有些反人类的访问速度就会收到限

来源:挂机精灵

2019-07-02 15:37:44

使用HTTP代理IP进行网络爬虫的关键因素

网络市场中提供HTTP代理IP商家数量众多,在挑选时建议选择隐匿度高的代理IP,例如挂机精灵,所有HTTP代理IP均为高匿名代理IP,安全性高,可以有效阻止对方

来源:挂机精灵

2019-07-24 15:18:04

代理ip池如何进行维护

代理IP现在对于经常使用网络的人来说耳熟能详,目前提供代理IP的网站也有很多,种类齐全,但是质量实在是不敢恭维,所以我们要经过筛选抓取,保存起来供我们使用,不能

来源:挂机精灵

2019-08-01 15:19:51

怎样使用动态IP软件进行自媒体推广

现在许多的人都在运用新浪微博、今日头条、抖音、快手等各类短视频app,因而许多企业许多人见到了这当中的商业机会和机会,并且运用自媒体渠道来转型自身的销路,也由于

来源:挂机精灵

2019-08-06 15:28:44

如何通过隐藏IP来防御DDOS攻击

如何通过隐藏IP来防御DDOS攻击?现在这个互联网环境很难保证自己不会被DDOS攻击,为了保证服务器的正常稳定运行,隐藏服务器真实IP是个不错的方法,这可以让攻

来源:互联网

2019-04-10 16:27:03

为了营销批量注册账号,IP更换是如何操作的?

很多用户在做问答营销时都遇到过这些情况,比如在一些网站上面批量注册帐号、发布留言评论,或在使用一些即时通讯软件频繁发送消息等等这些行为都会遇到系统的IP限制,限

来源:互联网

2019-02-26 17:38:59

手机电脑怎么使用全国动态IP的方法

  有些需要更换IP的用户,不知道手机电脑怎么使用全国动态IP,其实方法非常简单,下载个挂机精灵代理IP软件即可,比手动拨号更换IP地址方便

来源:互联网

2019-02-18 17:42:49

如何高效获取大数据?ip代理:用爬虫!

在不同的操作系统中,Python存在细微的差别,因此有几点您需要牢记在心。这里小编使用的是Python3版本。Python自带一个在终端窗口中运行的解释器,让您

来源:互联网

2019-03-22 16:27:55