-
32025年5月
-
262025年4月
-
272025年3月
-
282025年2月
-
162025年1月
-
282024年4月
-
302024年3月
-
292024年2月
-
312024年1月
-
312023年12月
-
302023年11月
-
312023年10月
-
302023年9月
-
312023年8月
-
352023年7月
-
312023年6月
-
312023年5月
-
302023年4月
-
312023年3月
-
282023年2月
-
312023年1月
-
312022年12月
-
302022年11月
-
312022年10月
-
302022年9月
-
312022年8月
-
322022年7月
-
292022年6月
-
322022年5月
-
302022年4月
-
332022年3月
-
312022年2月
-
372022年1月
-
382021年12月
-
382021年11月
-
402021年10月
-
432021年9月
-
372021年8月
-
442021年7月
-
442021年6月
-
432021年5月
-
342021年4月
-
312021年3月
-
292021年2月
-
352021年1月
-
422020年12月
-
402020年11月
-
482020年10月
-
522020年9月
-
852020年8月
-
752020年7月
-
802020年6月
-
782020年5月
-
772020年4月
-
432020年3月
-
362020年2月
-
452020年1月
-
562019年12月
-
712019年11月
-
612019年10月
-
562019年9月
-
532019年8月
-
362019年7月
-
362019年6月
-
382019年5月
-
402019年4月
-
352019年3月
-
342019年2月
-
442019年1月
-
392018年12月
-
402018年11月
-
392018年10月
-
392018年9月
-
452018年8月
-
452018年7月
-
392018年6月
-
512018年5月
-
492018年4月
-
342018年3月
-
282018年2月
-
482018年1月
-
732017年12月
-
7292017年11月
-
7442017年10月
-
2892017年9月
-
12017年8月
很多朋友在爬虫工作中,经常会遇到“您的请求太过频繁,请稍后再试”,这个时候心里莫名的一慌,爬虫代码完全没有问题呀,可是为什么爬着爬着突然爬不动了呢?那么,很有可能,你的爬虫被识破了,轻则友好提示警告,重则将IP关入小黑屋。
那么,怎么办呢,有人说用代理IP呀,专治各种不服。不错,用代理IP确实不失为一个解决问题的好办法。IP被封了就换新IP继续爬,或者用很多IP同时多线程爬,都很给力的。
于是,爬虫工作者用上了代理IP,重整旗鼓继续爬,但好景不长,没过多久又被提示“您的请求太过频繁,请稍后再试”。再换IP还是被封,再换再封,封的越来越快,效率非常低下,这是为什么呢?
那是因为,你用的代理IP凑巧也是别人用来访问相同的网站的,而且用的还比较频繁,这种情况一般出现在免费代理IP、普通代理IP或者开放代理IP,还有一些IP池比较小的共享IP池上。很多朋友总觉得IP池太大,我也用不了那多啊,不是浪费吗?能不能给个小点的IP池,价格再降低一些呢。这样的想法是不对的,IP池小,用的人多,那么项目冲突的几率也就越大,所以我们在找代理IP的时候,在保证IP有效率的同时IP池越大越好,这样可以保证IP的新鲜度。
所以,当您遇到“您的请求太过频繁,请稍后再试”时,不要慌,要镇定,检查下自己的爬虫策略,是否真的访问太过频繁,检查下自己的代理IP是否真的比较干净,调整自己的策略,选择更加纯净的IP,就能有效的避免这个错误了。
很多朋友在爬虫工作中,经常会遇到“您的请求太过频繁,请稍后再试”,这个时候心里莫名的一慌,爬虫代码完全没有问题呀,可是为什么爬着爬着突然爬不动了呢?那么,很有可能,你的爬虫被识破了,轻则友好提示警告,重则将IP关入小黑屋。
那么,怎么办呢,有人说用代理IP呀,专治各种不服。不错,用代理IP确实不失为一个解决问题的好办法。IP被封了就换新IP继续爬,或者用很多IP同时多线程爬,都很给力的。
于是,爬虫工作者用上了代理IP,重整旗鼓继续爬,但好景不长,没过多久又被提示“您的请求太过频繁,请稍后再试”。再换IP还是被封,再换再封,封的越来越快,效率非常低下,这是为什么呢?
那是因为,你用的代理IP凑巧也是别人用来访问相同的网站的,而且用的还比较频繁,这种情况一般出现在免费代理IP、普通代理IP或者开放代理IP,还有一些IP池比较小的共享IP池上。很多朋友总觉得IP池太大,我也用不了那多啊,不是浪费吗?能不能给个小点的IP池,价格再降低一些呢。这样的想法是不对的,IP池小,用的人多,那么项目冲突的几率也就越大,所以我们在找代理IP的时候,在保证IP有效率的同时IP池越大越好,这样可以保证IP的新鲜度。
所以,当您遇到“您的请求太过频繁,请稍后再试”时,不要慌,要镇定,检查下自己的爬虫策略,是否真的访问太过频繁,检查下自己的代理IP是否真的比较干净,调整自己的策略,选择更加纯净的IP,就能有效的避免这个错误了。