代理ip软件

您的位置: 首页 > 新闻资讯 > 正文

代理IP怎么自动切换

发布时间:2019-05-04 16:25:00 来源:挂机精灵

  所有写搜索的朋友估计都有过和我一样的烦恼,那就是如果不断的对某一个网站进行爬行,很容易被封IP。最笨的版本就是减少爬行频率,但是在很多场景下对爬行效率是有要求的,那么最直接的办法就是不断切换实际访问的IP,来达到访问流量分散的效果。当然也有很多朋友在用一个比较贱的办法,就是用ADSL拨号方式爬行,一旦被封掉就重新拨号换个IP,这个也算一个非常取巧的手段了。

  本文重点介绍代理IP怎么自动切换,其实这个如果只是要实现,那是再简单不过了。一个爬虫在启动的时候读取一批代理IP,访问网页的时候不断轮换,这样就是一个最简单的实现。但是这样有一个比较大的问题,就是你每写一个爬虫就要实现这样的模块,多个爬虫之前还不能共享代理IP资源。

  这里我想到利用一个本地代理来实现这个效果,那么爬虫只要连接到这一个代理,他在帮忙访问最终页面的时候再使用一个代理池不断轮换。这个方案既解决了代码重复的问题,又解决了多个爬虫都要维护代理IP列表的麻烦,而且部署起来也非常简单。

  经过本方案改造前后的部署示意图:

代理IP怎么自动切换

  我这里用Jetty7的proxy server做了一个简单的例子,实现了本地代理的功能,代码非常简单,贴出来大家一起学习下吧。

public class WiseProxyServlet extends ProxyServlet {           public void service(ServletRequest req, ServletResponse res)          throws ServletException, IOException {          _client.setProxy(getProperAddress());          super.service(req, res);      }       /**       * 这应该是在一个代理池中按照一定的规则来不断切换代理       */     private Address getProperAddress() {         return new Address("222.169.11.102", 8080);     }       }

 

public class WiseProxyServer {                  public static void main(String[] args) throws Exception {               Server server = new Server();               SelectChannelConnector connector = new SelectChannelConnector();               connector.setPort(8888);               server.addConnector(connector);                              HandlerCollection handlers = new HandlerCollection();               server.setHandler(handlers);                      // Setup proxy servlet               ServletContextHandler context = new ServletContextHandler(handlers, "/", ServletContextHandler.SESSIONS);               ServletHolder proxyServlet = new ServletHolder(WiseProxyServlet.class);               context.addServlet(proxyServlet, "/*");                      // Setup proxy handler to handle CONNECT methods               ConnectHandler proxy = new ConnectHandler();               handlers.addHandler(proxy);                      server.start();           }              }

 


相关资讯

玩游戏时怎么切换IP?

玩游戏时IP被封是一件非常苦恼的事情,为了避免玩游戏时IP被封,就得遵守游戏规则,但想要多开账号玩,就会被限制,想要不被封IP,就会只能更换地址,不懂的账号使用

来源:互联网

2019-03-07 15:45:12

ip地址被屏蔽,如何切换ip

在网络平台上操作过快时,就会有个人IP地址受限,限制登录等问题。例如,每当春运抢票是总是会有大批量的人埋怨网站登录不上了,所以在ip地址被封禁时,如何切换ip呢

来源:互联网

2019-03-27 15:34:34

如何切换ip为自己喜欢的爱豆投票

各位追星小伙伴们平时肯定有这样的苦恼,那就是在为喜欢的明星打榜的时候只要点开链接投过票之后就发现已经不能再重复进行投票了。很多小伙伴不知道该怎样解决这个问题,其

来源:互联网

2019-04-05 10:15:00

切换ip地址是什么意思?

切换ip地址是什么意思?切换ip地址就是指计算机更换通信地址,切换ip地址就是相当于换一个身份上网站,也可以理解为换电脑上网站,坏处的话基本没有,不影响使用。每

来源:互联网

2019-04-11 17:38:09

哪款代理IP软件可批量验证又可切换IP

同样的起点,同样的终点,为什么别人比你先到达,并不是别人比你走得快,而是你在走路,别人在开车。同样的代理IP,同样的工作量,为什么别人比你先完成,并不是别人比你

来源:挂机精灵

2019-04-23 15:30:58

chrome浏览器如何设置自动切换代理上网

chrome浏览器如何设置自动切换代理上网?利用shadowsocks代理IP软件实现翻墙时,如果都走代理模式,流量肯定不够。可以利用chrome的Switch

来源:挂机精灵

2019-04-25 15:54:03

代理IP怎么自动切换

所有写搜索的朋友估计都有过和我一样的烦恼,那就是如果不断的对某一个网站进行爬行,很容易被封IP。最笨的版本就是减少爬行频率,但是在很多场景下对爬行效率是有要求的

来源:挂机精灵

2019-05-04 16:25:00

挂机精灵代理ip软件解决ip被封

   挂机精灵代理ip软件解决ip被封,现在市面上挂机软件如此之多,该怎么判断这个挂机软件是好用还是不好用呢?我们该如何选择一款适

来源:互联网

2019-02-11 15:16:07

《完美世界》手游挂机时怎么自动喝药

《完美世界》手游在3月6号上线了,对于喜欢RPG游戏的玩家来说又多了一个可以选择的游戏。这款游戏是由完美世界精心打磨,并由腾讯运营的。通过运用现在最新的技术,完

来源:互联网

2019-03-15 17:04:11

多开游戏怎么解决IP限制问题?

  很多玩游戏的玩家,同一个游戏不仅仅是玩一个号,也许是为了做任务方便,体验多种游戏角色,多开赚钱等等。但是游戏并不希望玩家多开账号利用各种

来源:互联网

2019-02-14 17:00:12