代理ip软件

您的位置: 首页 > 新闻资讯 > 正文

代理IP怎么自动切换

发布时间:2019-05-04 16:25:00 来源:挂机精灵

  所有写搜索的朋友估计都有过和我一样的烦恼,那就是如果不断的对某一个网站进行爬行,很容易被封IP。最笨的版本就是减少爬行频率,但是在很多场景下对爬行效率是有要求的,那么最直接的办法就是不断切换实际访问的IP,来达到访问流量分散的效果。当然也有很多朋友在用一个比较贱的办法,就是用ADSL拨号方式爬行,一旦被封掉就重新拨号换个IP,这个也算一个非常取巧的手段了。

  本文重点介绍代理IP怎么自动切换,其实这个如果只是要实现,那是再简单不过了。一个爬虫在启动的时候读取一批代理IP,访问网页的时候不断轮换,这样就是一个最简单的实现。但是这样有一个比较大的问题,就是你每写一个爬虫就要实现这样的模块,多个爬虫之前还不能共享代理IP资源。

  这里我想到利用一个本地代理来实现这个效果,那么爬虫只要连接到这一个代理,他在帮忙访问最终页面的时候再使用一个代理池不断轮换。这个方案既解决了代码重复的问题,又解决了多个爬虫都要维护代理IP列表的麻烦,而且部署起来也非常简单。

  经过本方案改造前后的部署示意图:

代理IP怎么自动切换

  我这里用Jetty7的proxy server做了一个简单的例子,实现了本地代理的功能,代码非常简单,贴出来大家一起学习下吧。

public class WiseProxyServlet extends ProxyServlet {           public void service(ServletRequest req, ServletResponse res)          throws ServletException, IOException {          _client.setProxy(getProperAddress());          super.service(req, res);      }       /**       * 这应该是在一个代理池中按照一定的规则来不断切换代理       */     private Address getProperAddress() {         return new Address("222.169.11.102", 8080);     }       }

 

public class WiseProxyServer {                  public static void main(String[] args) throws Exception {               Server server = new Server();               SelectChannelConnector connector = new SelectChannelConnector();               connector.setPort(8888);               server.addConnector(connector);                              HandlerCollection handlers = new HandlerCollection();               server.setHandler(handlers);                      // Setup proxy servlet               ServletContextHandler context = new ServletContextHandler(handlers, "/", ServletContextHandler.SESSIONS);               ServletHolder proxyServlet = new ServletHolder(WiseProxyServlet.class);               context.addServlet(proxyServlet, "/*");                      // Setup proxy handler to handle CONNECT methods               ConnectHandler proxy = new ConnectHandler();               handlers.addHandler(proxy);                      server.start();           }              }

 


相关资讯

《完美世界》手游挂机时怎么自动喝药

《完美世界》手游在3月6号上线了,对于喜欢RPG游戏的玩家来说又多了一个可以选择的游戏。这款游戏是由完美世界精心打磨,并由腾讯运营的。通过运用现在最新的技术,完

来源:互联网

2019-03-15 17:04:11

chrome浏览器如何设置自动切换代理上网

chrome浏览器如何设置自动切换代理上网?利用shadowsocks代理IP软件实现翻墙时,如果都走代理模式,流量肯定不够。可以利用chrome的Switch

来源:挂机精灵

2019-04-25 15:54:03

代理IP怎么自动切换

所有写搜索的朋友估计都有过和我一样的烦恼,那就是如果不断的对某一个网站进行爬行,很容易被封IP。最笨的版本就是减少爬行频率,但是在很多场景下对爬行效率是有要求的

来源:挂机精灵

2019-05-04 16:25:00

自动换IP软件哪个好用

自动换IP软件哪个好用?自动更换IP,是许多人的愿望,现在市面上出现了不少这样的免费软件,它们有的可以给普通用户提供方便,免去手动切换的麻烦。有的可以给营销朋友

来源:挂机精灵

2019-05-18 14:35:33

自动换IP软件好用吗

换IP大家都不陌生,将路由器重启或者重新设置都会断网,影响其他工作,换IP的效果也不高。所以自动换IP软件出现了,使用效率更高,而且操作很方便换IP不会断网。还

来源:挂机精灵

2019-06-14 14:27:12

自动和手动换ip软件哪个更受欢迎?

不能理解很多人选择手动换ip软件的原因,毕竟人们通过手动换ip软件的过程中能够自己去看到事件发生的过程,这样对于软件本身更加信任。但是有利也有弊,人们在使用手动

来源:挂机精灵

2019-07-15 15:44:37

玩游戏时怎么切换IP?

玩游戏时IP被封是一件非常苦恼的事情,为了避免玩游戏时IP被封,就得遵守游戏规则,但想要多开账号玩,就会被限制,想要不被封IP,就会只能更换地址,不懂的账号使用

来源:互联网

2019-03-07 15:45:12

多开游戏怎么解决IP限制问题?

  很多玩游戏的玩家,同一个游戏不仅仅是玩一个号,也许是为了做任务方便,体验多种游戏角色,多开赚钱等等。但是游戏并不希望玩家多开账号利用各种

来源:互联网

2019-02-14 17:00:12

挂机精灵代理ip软件解决ip被封

   挂机精灵代理ip软件解决ip被封,现在市面上挂机软件如此之多,该怎么判断这个挂机软件是好用还是不好用呢?我们该如何选择一款适

来源:互联网

2019-02-11 15:16:07

高效率的爬虫工作离不开优质的代理IP

作为网络爬虫工作者应该都知道,要想高效的爬虫工作持久的进行,除了高效合理的代码设计,还需要高效优质的代理IP。很多爬虫工作者发现,爬着爬着就不爬了,断掉了,报错

来源:挂机精灵

2019-07-05 15:17:56

在线客服
大客户VIP渠道2
点击这里给我发消息
讨论QQ群
挂机精灵动态换IP
客服电话
400-998-9776转2