爬蟲中從事大數據的工作者很少，所以在運用爬蟲時，必需運用代理ip來處理反爬蟲機制。當我們獲取到目的網站的網頁數據信息時，必然會遭遭到其他服務器的反爬蟲機制，那么當我們運用代理ip爬蟲搜集時會發作什么呢？

 

1)訪問過于頻繁時，忽然ip無法再訪問；在這種狀況下，目的網站有防爬機制，觸摸屏的訪問頻率在到達設定的閾值ip時會被制止，所以我們在運用代理ip時需求盡可能的慢下來，不要等到被對方屏蔽。

 

2)代理ip運用時禁用，無法訪問；在這種狀況下，用戶通常會取得這個ip和同一個ip，這會觸發目的效勞器的閾值被制止。大局部用戶的爬蟲會選擇共享ip池，數量多，價錢合理，所以這種狀況下直接切換ip就能夠了。

 

有些用戶會以為只需運用代理ip，就能夠隨意抓取，不會被禁用或屏蔽，這是不對的。代理ip與本地ip相同，需求慎重運用。