如何再python代碼中使用HTTP代理IP。
以下代碼主要圍繞第一次接觸HTTP代理IP的python新手來寫。(步驟注釋清晰)
直接把下面示例代碼中的HTTP代理API,替換成你后臺(tái)生成的代理API鏈接,就可以跑起來了。
以下是一個(gè)示例代碼,只是一個(gè)基礎(chǔ)的演示,具體的代碼還是要根據(jù)你業(yè)務(wù)的實(shí)際情況去寫的。
示例代碼中的HTTP代理IP,我使用的是華益云的HTTP代理,注冊(cè)就白嫖1萬個(gè)高匿爬蟲IP,有效期是一年,對(duì)于調(diào)試代碼來說這個(gè)時(shí)間是非常的友好。(步驟注釋清晰)
華益云-企業(yè)級(jí)HTTP爬蟲代理IP供應(yīng)商-點(diǎn)我免費(fèi)領(lǐng)取示例代碼demo中同款10000個(gè)高匿IP
打開代理API,獲取里面的IP,使用IP訪問目標(biāo)網(wǎng)站,其實(shí)代碼中就是執(zhí)行這個(gè)過程而已,然后加了幾個(gè)錯(cuò)誤判斷有助于代碼的穩(wěn)定運(yùn)行。
# 此版本無需安裝依賴 import urllib import urllib.request import urllib def main(): # 發(fā)送給服務(wù)器的標(biāo)識(shí) userAgent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/532.36 (KHTML, like Gecko) Chrome/97.0.4692.99 Safari/537.36" # 代理api(這里我推薦使用www.9vps.com華益云的HTTP代理API,注冊(cè)就白嫖1萬IP) proxyUrl = "http://http.9vps.com/getip.asp?username=166xxxx6597&pwd=xxxxbaa59ce237dff65134984b9cxxxx&geshi=1&fenge=1&fengefu=&Contenttype=1&getnum=20&setcity=&operate=all&"; # 請(qǐng)求代理url,獲取代理ip outPutProxy = getProxy(proxyUrl, userAgent) if len(outPutProxy)==0: # 沒有獲取到代理 return # 目標(biāo)請(qǐng)求網(wǎng)站 # https://httpbin.org/get url = "https://www.qq.com/" content = None for _ in range(0, 3): # 最多嘗試三次 try: # 從列表中取出一個(gè)代理出來 proxy = outPutProxy.pop(0) px = { "http": proxy, "https": proxy } content = requestGet(url, userAgent, px) break except Exception as e: print(e) if (len(outPutProxy) == 0): # 如果發(fā)現(xiàn)沒有代理了,就去獲取下。 outPutProxy = getProxy(proxyUrl, userAgent) print(content) def getProxy(proxyUrl, userAgent): proxyIps="" outPutProxy = [] try: proxyIps = requestGet(proxyUrl, userAgent, None) print("(proxyIps)", proxyIps) # {"code":3002,"data":[],"msg":"error!用戶名或密碼錯(cuò)誤","success":false} if "{" in proxyIps: raise Exception("[錯(cuò)誤]"+proxyIps) outPutProxy = proxyIps.splitlines() except Exception as e: print(e) print("總共獲取了"+str(len(outPutProxy))+"個(gè)代理") return outPutProxy def requestGet(url, userAgent, proxy): headers = { "User-Agent": userAgent } # httpproxy_handler = urllib.ProxyHandler({"http" : " 180.104.192.217:22036"}) response = None if (proxy): proxyHandler = urllib.request.ProxyHandler(proxy) opener = urllib.request.build_opener(proxyHandler, urllib.request.HTTPHandler) urllib.request.install_opener(opener) request = urllib.request.Request(url, headers=headers) response = urllib.request.urlopen(request, timeout=5) else: # 沒有代理走這個(gè) request = urllib.request.Request(url, headers=headers) response = urllib.request.urlopen(request, timeout=5) #response = opener.open(request) html = response.read() # # 設(shè)置編碼,防止亂碼 # 手動(dòng)設(shè)置網(wǎng)頁字符編碼方式 return html.decode("utf-8", "ignore") main()
或者直接百度搜索:華益云HTTP代理
審核編輯 黃昊宇
-
IP
+關(guān)注
關(guān)注
5文章
1723瀏覽量
150027 -
python
+關(guān)注
關(guān)注
56文章
4811瀏覽量
85076
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
python基礎(chǔ):如何注釋代碼塊
![<b class='flag-5'>python</b>基礎(chǔ):如何<b class='flag-5'>注釋</b><b class='flag-5'>代碼</b>塊](https://file.elecfans.com/web1/M00/7C/68/o4YBAFwEozaAcC15AAA4ranj_cI741.png)
評(píng)論