解决影响代理IP不稳定问题

python (2182) 2020-11-26 14:22:30

互联网时代,数据采集成了一种很重要的项目。网络爬虫是通过代理IP向目标服务器获取到想要的公开信息数据。爬虫用户都清楚,使用隧道转发爬虫代理IP可以事半功倍。代理IP的稳定性自然也决定业务的效率和进展。那如何在判断代理IP的稳定性。

1、IP代理商选择

代理IP商的选择也决定了,使用代理IP的稳定。客服的服务质量,代理服务器的稳定都是影响IP稳定性的重要原因。有高效的服务质量和足够强大的IP池代理商才可以保证使用代理IP的稳定和安全。

2、请求并发

许多爬虫用户都会使用代理IP去采集业务网站,同时通过这个代理IP发出大量的并发请求去采集数据,高效的完成业务。但是这样的做法,代理IP质量会和稳定性会明显下降。毕竟代理IP池有限,一个网站也会限制一个IP的请求,这样做会容易触发网站的限制功能,反而大大降低了业务有效率,这也会影响代理IP稳定性的原因之一

3、使用频率

大家都知道网站都有反爬机制,一个代理IP长期访问肯定会被限制。这也是影响代理IP稳定性的原因之一,所以需要控制好每个IP的使用频率。要提高业务成功率和效率,就只能做业务管理和控制好代理IP的使用频率或者加大代理IP的量,让更多的代理IP去发出请求。

其实影响代理IP的稳定性原因有许多,如果在使用代理IP中出现了各种不稳定,一定要仔细排查对症下药。

大家都可以选择一些代理IP商去对比测试,以下是我使用隧道转发的爬虫代理测试业务效果:

// 要访问的目标页面
string targetUrl = "http://httpbin.org/ip";


// 代理服务器(产品官网 www.16yun.cn)
string proxyHost = "http://t.16yun.cn";
string proxyPort = "31111";

// 代理验证信息
string proxyUser = "username";
string proxyPass = "password";

// 设置代理服务器
WebProxy proxy = new WebProxy(string.Format("{0}:{1}", proxyHost, proxyPort), true);


ServicePointManager.Expect100Continue = false;

var request = WebRequest.Create(targetUrl) as HttpWebRequest;

request.AllowAutoRedirect = true;
request.KeepAlive = true;
request.Method    = "GET";
request.Proxy     = proxy;

//request.Proxy.Credentials = CredentialCache.DefaultCredentials;

request.Proxy.Credentials = new System.Net.NetworkCredential(proxyUser, proxyPass);

// 设置Proxy Tunnel
// Random ran=new Random();
// int tunnel =ran.Next(1,10000);
// request.Headers.Add("Proxy-Tunnel", String.valueOf(tunnel));


//request.Timeout = 20000;
//request.ServicePoint.ConnectionLimit = 512;
//request.UserAgent = "Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.82 Safari/537.36";
//request.Headers.Add("Cache-Control", "max-age=0");
//request.Headers.Add("DNT", "1");


//String encoded = System.Convert.ToBase64String(System.Text.Encoding.GetEncoding("ISO-8859-1").GetBytes(proxyUser + ":" + proxyPass));
//request.Headers.Add("Proxy-Authorization", "Basic " + encoded);

using (var response = request.GetResponse() as HttpWebResponse)
using (var sr = new StreamReader(response.GetResponseStream(), Encoding.UTF8))
{
    string htmlStr = sr.ReadToEnd();
}
THE END

发表评论