Подтвердить что ты не робот

IOError: ошибка чтения данных запроса

Кажется, я получаю сообщение об ошибке чтения IOError: очень часто, когда я делаю загрузку Ajax. Например, из каждых 5 загружаемых файлов он выдает ошибки по крайней мере 3.

У других людей такая же проблема. Например.

Некоторые другие наблюдения:

  • Это определенно не мое подключение к Интернету или проблема с браузером. Кажется, что это происходит во всех браузерах chrome/FF/opera.

  • Я запускаю django 1.1.1 Apache/2.2.14 (Ubuntu) mod_ssl/2.2.14 OpenSSL/0.9.8k mod_wsgi/2.8 Python/2.6.5 на Lucid.

  • Это также не размер файла. Иногда я могу загружать файлы с 1 МБ, но не могу работать с файлами 180 КБ.

Traceback

Traceback (most recent call last):

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/core/handlers/base.py", line 98, in get_response
    response = middleware_method(request, e)

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/core/handlers/base.py", line 92, in get_response
    response = callback(request, *callback_args, **callback_kwargs)

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/contrib/auth/decorators.py", line 78, in __call__
    return self.view_func(request, *args, **kwargs)

  File "/home/ubuntu/webapps/anonymous_app/app/do_work/views/__init__.py", line 391, in some_form_ajax_upload
    f = request.FILES.get('file_upload')

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/core/handlers/wsgi.py", line 187, in _get_files
    self._load_post_and_files()

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/core/handlers/wsgi.py", line 137, in _load_post_and_files
    self._post, self._files = self.parse_file_upload(self.META, self.environ['wsgi.input'])

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/__init__.py", line 124, in parse_file_upload
    return parser.parse()

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 133, in parse
    for item_type, meta_data, field_stream in Parser(stream, self._boundary):

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 606, in __iter__
    for sub_stream in boundarystream:

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 420, in next
    return LazyStream(BoundaryIter(self._stream, self._boundary))

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 446, in __init__
    unused_char = self._stream.read(1)

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 299, in read
    out = ''.join(parts())

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 292, in parts
    chunk = self.next()

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 314, in next
    output = self._producer.next()

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 375, in next
    data = self.flo.read(self.chunk_size)

  File "/home/ubuntu/.virtualenvs/anonymous_app/lib/python2.6/site-packages/django/http/multipartparser.py", line 405, in read
    return self._file.read(num_bytes)

IOError: request data read error


<WSGIRequest
GET:<QueryDict: {}>,
POST:<could not parse>,
COOKIES:{'__utma': '168279989.1688771210.1285773436.1285773436.1285773436.1',
 '__utmb': '168279989.20.10.1285773436',
 '__utmc': '168279989',
 '__utmz': '168279989.1285773436.1.1.utmcsr=(direct)|utmccn=(direct)|utmcmd=(none)',
 'beta': 'True',
 'sessionid': 'b1ecf92f2bba13e1885d07803e10aa03',
 'timezone_offset': '-330'},
META:{'CONTENT_LENGTH': '188575',
 'CONTENT_TYPE': 'multipart/form-data; boundary=---------------------------57602381214905740261171925981',
 'DOCUMENT_ROOT': '/htdocs',
 'GATEWAY_INTERFACE': 'CGI/1.1',
 'HTTPS': '1',
 'HTTP_ACCEPT': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
 'HTTP_ACCEPT_CHARSET': 'ISO-8859-1,utf-8;q=0.7,*;q=0.7',
 'HTTP_ACCEPT_ENCODING': 'gzip,deflate',
 'HTTP_ACCEPT_LANGUAGE': 'en-us,en;q=0.5',
 'HTTP_CONNECTION': 'keep-alive',
 'HTTP_COOKIE': 'beta=True; __utma=168279989.1688771210.1285773436.1285773436.1285773436.1; __utmb=168279989.20.10.1285773436; __utmc=168279989; __utmz=168279989.1285773436.1.1.utmcsr=(direct)|utmccn=(direct)|utmcmd=(none); sessionid=b1ecf92f2bba13e1885d07803e10aa03; timezone_offset=-330',
 'HTTP_HOST': 'xxxxxx.compute-1.amazonaws.com',
 'HTTP_KEEP_ALIVE': '115',
 'HTTP_REFERER': 'https://ec2-184-72-79-96.compute-1.amazonaws.com/do-my-somees/enter/some-documents/',
 'HTTP_USER_AGENT': 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.2.10) Gecko/20100915 Ubuntu/10.04 (lucid) Firefox/3.6.10',
 'PATH': '/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/X11R6/bin',
 'PATH_INFO': u'/do-my-somees/enter/some-documents/ajax-upload/Other-some-Document/',
 'PATH_TRANSLATED': '/home/ubuntu/webapps/anonymous_app/settings/apache/qa.wsgi.py/do-my-somees/enter/some-documents/ajax-upload/Other-some-Document/',
 'QUERY_STRING': '',
 'REMOTE_ADDR': '',
 'REMOTE_PORT': '15561',
 'REQUEST_METHOD': 'POST',
 'REQUEST_URI': '/do-my-somees/enter/some-documents/ajax-upload/Other-some-Document/',
 'SCRIPT_FILENAME': '/home/ubuntu/webapps/anonymous_app/settings/apache/qa.wsgi.py',
 'SCRIPT_NAME': u'',
 'SERVER_ADDR': '10.196.142.182',
 'SERVER_ADMIN': '[email protected]_app.com',
 'SERVER_NAME': 'ec2-184-72-79-96.compute-1.amazonaws.com',
 'SERVER_PORT': '443',
 'SERVER_PROTOCOL': 'HTTP/1.1',
 'SERVER_SIGNATURE': '<address>Apache/2.2.14 (Ubuntu) Server at ec2-184-72-79-96.compute-1.amazonaws.com Port 443</address>\n',
 'SERVER_SOFTWARE': 'Apache/2.2.14 (Ubuntu)',
 'SSL_TLS_SNI': 'ec2-184-72-79-96.compute-1.amazonaws.com',
 'mod_wsgi.application_group': 'qa.anonymous_app.com|',
 'mod_wsgi.callable_object': 'application',
 'mod_wsgi.listener_host': '',
 'mod_wsgi.listener_port': '443',
 'mod_wsgi.process_group': '',
 'mod_wsgi.reload_mechanism': '0',
 'mod_wsgi.script_reloading': '1',
 'mod_wsgi.version': (2, 8),
 'wsgi.errors': <mod_wsgi.Log object at 0xb9456860>,
 'wsgi.file_wrapper': <built-in method file_wrapper of mod_wsgi.Adapter object at 0xb936a968>,
 'wsgi.input': <mod_wsgi.Input object at 0xb9720e30>,
 'wsgi.multiprocess': True,
 'wsgi.multithread': False,
 'wsgi.run_once': False,
 'wsgi.url_scheme': 'https',
 'wsgi.version': (1, 0)}>
4b9b3361

ОТВЕТЫ

Ответ 1

Я тоже получаю это исключение. В файле журнала ошибок Apache я вижу следующее:

[Wed Aug 17 08:30:45 2011] [error] [client 10.114.48.206] (70014)End of file found: mod_wsgi (pid=9722): Unable to get bucket brigade for request., referer: https://egs-work/modwork/beleg/188074/edit/
[Wed Aug 17 08:30:45 2011] [error] [client 10.114.48.206] mod_wsgi (pid=3572): Exception occurred processing WSGI script '/home/modwork_egs_p/modwork_egs/apache/django_wsgi.py'.
[Wed Aug 17 08:30:45 2011] [error] [client 10.114.48.206] IOError: failed to write data

Версии:

apache2-prefork-2.2.15-3.7.x86_64
apache2-mod_wsgi-3.3-1.8.x86_64 WSGIDaemonProcess with threads=1
mod_ssl/2.2.15
Linux egs-work 2.6.34.8-0.2-default #1 SMP 2011-04-06 18:11:26 +0200 x86_64 x86_64 x86_64 GNU/Linux
openSUSE 11.3 (x86_64)

Сначала я был смущен, потому что последняя строка "не удалось записать данные" не соответствует коду django "данные о загрузке". Но я думаю, что django хочет написать страницу ошибки клиенту. Но клиент отменил tcp-соединение. И теперь страница http 500 не может быть записана клиенту.

Клиент отключился после отправки запроса и до получения ответа:

  • Пользователь закрыл браузер или перешел на другую страницу.
  • Пользователь нажал кнопку перезагрузки.

Я видел это только с помощью POST-запросов (а не GET). Если используется POST, веб-сервер читает не менее двух раз: сначала для получения заголовков, второй для получения данных. Второе чтение терпит неудачу.

Легко воспроизвести:

Вставьте код, ожидающий до первого доступа к запросу. POST (убедитесь, что никакое промежуточное программное обеспечение не запрашивает запрос .POST до time.sleep()):

def edit(request):
    import time
    time.sleep(3)
    #.....

Теперь сделайте большой POST (например, загрузку файла). Я не знаю размер буфера Apache. Но 5 МБ должно быть достаточно. Когда браузер показывает песочные часы, перейдите на другую страницу. Браузер отменит запрос, и исключение должно быть в файле журнала.

Это мое промежуточное ПО, так как я не хочу получать вышеуказанный трассировку в наших логфайлах:

class HandleExceptionMiddleware:

    def process_exception(self, request, exception):
        if isinstance(exception, IOError) and 'request data read error' in unicode(exception):
            logging.info('%s %s: %s: Request was canceled by the client.' % (
                    request.build_absolute_uri(), request.user, exception))
            return HttpResponseServerError()

Ответ 2

как вы думаете, это не ошибка django.

см. https://groups.google.com/group/django-users/browse_thread/thread/946936f69c012d96

имеет ошибку сам (но IE ajax запрашивает только, не загружает файл, просто публикует данные).

добавит полный ответ, если я когда-нибудь узнаю, как это исправить.

Ответ 3

Мы видели эту ошибку при загрузке в Django Rest Framework, когда заголовок типа контента был неправильно установлен в application/json. Сообщение было на самом деле многочастными данными формы. Ошибки прекратились, когда мы удалили неправильный заголовок типа содержимого.

Ответ 4

Это случилось со мной в последнее время. Я использовал django-ajax-uploader, и небольшие файлы загружались успешно, но большие файлы, например. 100 МБ находились между ними с IOError: request data read error.

Я проверил свою конфигурацию Apache и нашел эти настройки RequestReadTimeout header=90 body=90, что означает Allow 90 seconds to receive the request including the headers and 90 seconds for receiving the request body.

Файл получен в кусках на бэкэнд, что означает, что размер файла большой 90 секунд для некоторых загрузок недостаточно. Итак, как определить наилучшее значение (секунды) для запросов?

Итак, я использовал эту настройку:

RequestReadTimeout header=90,MinRate=500 body=90,MinRate=500

Определение MinRate решает проблему для меня. В приведенной выше настройке указано, что:

Разрешить не менее 90 секунд получать тело запроса. Если клиент отправляет данные, увеличивает тайм-аут на 1 секунду на каждые 500 байт получен

Поскольку клиент непрерывно отправляет данные (ajax upload), имеет смысл автоматически увеличивать таймаут, если данные получены. Более подробную информацию/варианты о RequestReadTimeout можно найти здесь.

Ответ 5

Принимая это из потока: Избавьтесь от Django IOErrors

Расширение возможного решения @dlowe для Django 1.3, чтобы подавить озабоченность IOError, мы можем написать полный рабочий пример как:

settings.py

LOGGING = {
    'version': 1,
    'disable_existing_loggers': False,
    'filters': {
        'supress_unreadable_post': {
            '()': 'common.logging.SuppressUnreadablePost',
        }
    },
    'handlers': {
        'mail_admins': {
            'level': 'ERROR',
            'class': 'django.utils.log.AdminEmailHandler',
            'filters': ['supress_unreadable_post'],
        }
    },
    'loggers': {
        'django.request': {
            'handlers': ['mail_admins'],
            'level': 'ERROR',
            'propagate': True,
        },
    }
}

общий /logging.py

import sys, traceback

class SuppressUnreadablePost(object):
    def filter(self, record):
        _, exception, tb = sys.exc_info()
        if isinstance(exception, IOError):
            for _, _, function, _ in traceback.extract_tb(tb):
                if function == '_get_raw_post_data':
                    return False
        return True

Ответ 6

Эта проблема была открыта в течение длительного времени и имеет отношение к библиотекам более низкого уровня. Я использовал boto для загрузки файлов на S3. Временная остановка, которую я обнаружил, заключалась в том, чтобы добавить явный тайм-аут HTTP-сокета на 10 секунд. После этого я не видел ошибку. Вы можете сделать это, создав конфигурацию boto на сервере:

#/etc/boto.cfg 
[Boto]
http_socket_timeout=10

Также убедитесь, что файл доступен для чтения в приложении. См. Мое оригинальное сообщение в группе google: https://groups.google.com/forum/#!topic/boto-users/iWtvuECAcn4

Ответ 7

Я получил эту ошибку при проверке моего сайта на машине Win8 с IE 10. Когда я тестировал загрузку файла из IE, загрузка была застряла на 1%, а после +/- 1 минуты я получил ошибку в журналах сервера. Я только что обнаружил, что это вызвано дополнением TrendMicro. Как только я отключил дополнение, загрузка произошла без каких-либо проблем.