Проверка наличия веб-сайта через Python

Ответ 1

Вы можете попытаться сделать это с помощью getcode() из urllib

>>> print urllib.urlopen("http://www.stackoverflow.com").getcode()
>>> 200

ОБНОВЛЕНИЕ: для более современного Python, то есть python3, используйте:

import urllib.request
print(urllib.request.urlopen("http://www.stackoverflow.com").getcode())
>>> 200

Ответ 2

Я думаю, что самый простой способ сделать это - использовать Requests.

import requests

def url_ok(url):
    r = requests.head(url)
    return r.status_code == 200

Ответ 3

Вы можете использовать httplib

import httplib
conn = httplib.HTTPConnection("www.python.org")
conn.request("HEAD", "/")
r1 = conn.getresponse()
print r1.status, r1.reason

печатает

200 OK

Конечно, только если www.python.org вверх.

Ответ 4

import httplib
import socket
import re

def is_website_online(host):
    """ This function checks to see if a host name has a DNS entry by checking
        for socket info. If the website gets something in return, 
        we know it available to DNS.
    """
    try:
        socket.gethostbyname(host)
    except socket.gaierror:
        return False
    else:
        return True


def is_page_available(host, path="/"):
    """ This function retreives the status code of a website by requesting
        HEAD data from the host. This means that it only requests the headers.
        If the host cannot be reached or something else goes wrong, it returns
        False.
    """
    try:
        conn = httplib.HTTPConnection(host)
        conn.request("HEAD", path)
        if re.match("^[23]\d\d$", str(conn.getresponse().status)):
            return True
    except StandardError:
        return None

Ответ 5

from urllib.request import Request, urlopen
from urllib.error import URLError, HTTPError
req = Request("http://stackoverflow.com")
try:
    response = urlopen(req)
except HTTPError as e:
    print('The server couldn\'t fulfill the request.')
    print('Error code: ', e.code)
except URLError as e:
    print('We failed to reach a server.')
    print('Reason: ', e.reason)
else:
    print ('Website is working fine')

Работает на Python 3

Ответ 6

Объект HTTPConnection из модуля httplib в стандартной библиотеке, вероятно, сделает трюк для вас. BTW, если вы начнете делать что-то продвинутое с HTTP в Python, обязательно зайдите httplib2; это отличная библиотека.

Ответ 7

Если сервер, если он установлен, на python 2.7 x86 windows urllib не имеет таймаута и программа переходит в мертвую блокировку. Поэтому используйте urllib2

import urllib2
import socket

def check_url( url, timeout=5 ):
    try:
        return urllib2.urlopen(url,timeout=timeout).getcode() == 200
    except urllib2.URLError as e:
        return False
    except socket.timeout as e:
        print False


print check_url("http://google.fr")  #True 
print check_url("http://notexist.kc") #False     

Ответ 8

Если вверх, вы просто означаете "сервер обслуживает", тогда вы можете использовать cURL, и если вы получите ответ, чем он.

Я не могу дать вам конкретные советы, потому что я не программист на языке python, но вот ссылка на pycurl http://pycurl.sourceforge.net/.

Ответ 9

Привет, этот класс может сделать скорость и тест для вашей веб-страницы с помощью этого класса:

 from urllib.request import urlopen
 from socket import socket
 import time


 def tcp_test(server_info):
     cpos = server_info.find(':')
     try:
         sock = socket()
         sock.connect((server_info[:cpos], int(server_info[cpos+1:])))
         sock.close
         return True
     except Exception as e:
         return False


 def http_test(server_info):
     try:
         # TODO : we can use this data after to find sub urls up or down    results
         startTime = time.time()
         data = urlopen(server_info).read()
         endTime = time.time()
         speed = endTime - startTime
         return {'status' : 'up', 'speed' : str(speed)}
     except Exception as e:
         return {'status' : 'down', 'speed' : str(-1)}


 def server_test(test_type, server_info):
     if test_type.lower() == 'tcp':
         return tcp_test(server_info)
     elif test_type.lower() == 'http':
         return http_test(server_info)

Ответ 10

Вы можете использовать библиотеку requests, чтобы определить, работает ли веб-сайт, т.е. status code как 200

import requests
url = "https://www.google.com"
page = requests.get(url)
print (page.status_code) 

>> 200

Ответ 11

Здесь мое решение, используя PycURL и validators

import pycurl, validators


def url_exists(url):
    """
    Check if the given URL really exists
    :param url: str
    :return: bool
    """
    if validators.url(url):
        c = pycurl.Curl()
        c.setopt(pycurl.NOBODY, True)
        c.setopt(pycurl.FOLLOWLOCATION, False)
        c.setopt(pycurl.CONNECTTIMEOUT, 10)
        c.setopt(pycurl.TIMEOUT, 10)
        c.setopt(pycurl.COOKIEFILE, '')
        c.setopt(pycurl.URL, url)
        try:
            c.perform()
            response_code = c.getinfo(pycurl.RESPONSE_CODE)
            c.close()
            return True if response_code < 400 else False
        except pycurl.error as err:
            errno, errstr = err
            raise OSError('An error occurred: {}'.format(errstr))
    else:
        raise ValueError('"{}" is not a valid url'.format(url))

Ответ 12

Запросы и httplib2 являются отличными вариантами:

# Using requests.
import requests
request = requests.get(value)
if request.status_code == 200:
    return True
return False

# Using httplib2.
import httplib2

try:
    http = httplib2.Http()
    response = http.request(value, 'HEAD')

    if int(response[0]['status']) == 200:
        return True
except:
    pass
return False

Если вы используете Ansible, вы можете использовать функцию fetch_url:

from ansible.module_utils.basic import AnsibleModule
from ansible.module_utils.urls import fetch_url

module = AnsibleModule(
    dict(),
    supports_check_mode=True)

try:
    response, info = fetch_url(module, url)
    if info['status'] == 200:
        return True

except Exception:
    pass

return False

Ответ 13

На мой взгляд, ответ caisah не затрагивает важную часть вашего вопроса, а именно работу с сервером, находящимся в автономном режиме.

Тем не менее, использование requests - мой любимый вариант, хотя и такой:

import requests

try:
    requests.get(url)
except requests.exceptions.ConnectionError:
    print(f"URL {url} not reachable")