Прокси с модулем "Запросы" Python

Просто короткий, простой пример превосходного Requests для Python.

Я не могу найти в документации, что должна содержать переменная 'proxies'. Когда я отправляю ему dict со стандартным значением "IP: PORT", он отклоняет его, запрашивая 2 значения. Итак, я думаю (потому что это не рассматривается в документах), что первым значением является ip, а второй - порт?

В документах упоминается только следующее:

proxies - (необязательно) Протокол сопоставления словаря URL-адреса прокси-сервера.

Итак, я попробовал это... что мне делать?

proxy = { ip: port}

и должен ли я преобразовать их в какой-то тип перед тем, как поместить их в dict?

r = requests.get(url,headers=headers,proxies=proxy)

Ответ 1

Синтаксис proxies '= {"protocol":"ip:port", ...}. С его помощью вы можете указать разные (или те же) прокси для запросов с использованием протоколов http, https и ftp:

http_proxy  = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy   = "ftp://10.10.1.10:3128"

proxyDict = { 
              "http"  : http_proxy, 
              "https" : https_proxy, 
              "ftp"   : ftp_proxy
            }

r = requests.get(url, headers=headers, proxies=proxyDict)

Выведено из requests документации:

Параметры:
method - метод для нового объекта Request.
url - URL для нового объекта Request.
...
proxies - (необязательно) Словарь сопоставляет протокол с URL-адресом прокси-сервера.
...

В linux вы также можете сделать это с помощью переменных окружения HTTP_PROXY, HTTPS_PROXY и FTP_PROXY:

export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128

В Windows:

set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128

Спасибо, Джей за это указывает:
Синтаксис изменен с помощью запросов 2.0.0.
Вам нужно будет добавить схему к URL-адресу: http://docs.python-requests.org/en/latest/user/advanced/#proxies

Ответ 2

Я обнаружил, что урлиб имеет действительно хороший код, чтобы забрать настройки прокси-сервера, и они оказались в правильной форме для использования напрямую. Вы можете использовать это как:

import urllib

...
r = requests.get('http://example.org', proxies=urllib.getproxies())

Он работает очень хорошо, и urllib знает о получении настроек Mac OS X и Windows.

Ответ 3

Здесь вы можете обратиться к прокси-документации.

Если вам нужно использовать прокси-сервер, вы можете настроить отдельные запросы с аргументом proxies на любой метод запроса:

import requests

proxies = {
  "http": "10.10.1.10:3128",
  "https": "10.10.1.10:1080",
}

requests.get("http://example.org", proxies=proxies)

Чтобы использовать HTTP Basic Auth с вашим прокси-сервером, используйте синтаксис http://user:[email protected]/:

proxies = {
    "http": "http://user:[email protected]:3128/"
}

Ответ 4

Принятый ответ был хорошим началом для меня, но я продолжал получать следующую ошибку:

AssertionError: Not supported proxy scheme None

Исправить это было, чтобы указать http://в URL-адресе прокси:

http_proxy  = "http://194.62.145.248:8080"
https_proxy  = "https://194.62.145.248:8080"
ftp_proxy   = "10.10.1.10:3128"

proxyDict = {
              "http"  : http_proxy,
              "https" : https_proxy,
              "ftp"   : ftp_proxy
            }

Мне было бы интересно, почему оригинал работает для некоторых людей, но не для меня.

Изменить: я вижу, что главный ответ теперь обновлен, чтобы отразить это:)

Ответ 5

вот мой базовый класс в python для модуля запросов с некоторыми конфигурациями прокси и секундомером!

import requests
import time
class BaseCheck():
    def __init__(self, url):
        self.http_proxy  = "http://user:[email protected]:8080"
        self.https_proxy = "http://user:[email protected]:8080"
        self.ftp_proxy   = "http://user:[email protected]:8080"
        self.proxyDict = {
                      "http"  : self.http_proxy,
                      "https" : self.https_proxy,
                      "ftp"   : self.ftp_proxy
                    }
        self.url = url
        def makearr(tsteps):
            global stemps
            global steps
            stemps = {}
            for step in tsteps:
                stemps[step] = { 'start': 0, 'end': 0 }
            steps = tsteps
        makearr(['init','check'])
        def starttime(typ = ""):
            for stemp in stemps:
                if typ == "":
                    stemps[stemp]['start'] = time.time()
                else:
                    stemps[stemp][typ] = time.time()
        starttime()
    def __str__(self):
        return str(self.url)
    def getrequests(self):
        g=requests.get(self.url,proxies=self.proxyDict)
        print g.status_code
        print g.content
        print self.url
        stemps['init']['end'] = time.time()
        #print stemps['init']['end'] - stemps['init']['start']
        x= stemps['init']['end'] - stemps['init']['start']
        print x


test=BaseCheck(url='http://google.com')
test.getrequests()

Ответ 6

Это немного поздно, но вот класс-оболочка, который упрощает проскальзывание прокси, а затем делает http POST или GET:

ProxyRequests

https://github.com/rootVIII/proxy_requests

Ответ 7

Если вы хотите персистировать файлы cookie и данные сеанса, вам лучше всего это сделать:

import requests

proxies = {
    'http': 'http://user:[email protected]:3128',
    'https': 'https://user:[email protected]:3128',
}

# Create the session and set the proxies.
s = requests.Session()
s.proxies = proxies

# Make the HTTP request through the session.
r = s.get('http://www.showmemyip.com/')