Может ли кто-нибудь объяснить, в чем разница между epoll, poll и threadpool?
epoll и poll зависят от Linux... Есть ли эквивалентная альтернатива для Windows?
Threadpool не вписывается в ту же категорию, что и опрос и epoll, поэтому я предполагаю, что вы ссылаетесь на threadpool, как в "threadpool", чтобы обрабатывать множество соединений с одним потоком для каждого соединения ".
epoll, хотя очевидный путь (все блоки потоков на epoll_wait) бесполезен, потому что epoll пробудит каждую нить, ожидающую его, поэтому у него все равно будут те же проблемы.
futex является вашим другом здесь, в сочетании с, например, быстрая перемотка очереди на поток. Несмотря на плохо документированные и громоздкие, futex предлагает именно то, что нужно. epoll может возвращать сразу несколько событий, а futex позволяет эффективно и точно контролировать пробуждение N заблокированных потоков за один раз (N является min(num_cpu, num_events) в идеале), и в лучшем случае это не предполагает extra syscall/context switch вообще.fork (a.k.a. old fashion threadpool)
fork не является "бесплатным", хотя накладные расходы в основном объединены механизмом копирования на запись. В больших наборах данных, которые также изменены, значительное количество ошибок страницы после fork может отрицательно сказаться на производительности.poll/select
epoll
epoll_ctl)
epoll_wait)
polltimerfd и eventfd (потрясающее разрешение и точность таймера).signalfd, устраняя неудобную обработку сигналов, делая их частью обычного потока управления очень элегантно.eventfd, но для него требуется (до даты) недокументированная функция.poll может работать одинаково или лучше.epoll не может делать "волшебство", то есть все равно обязательно O (N) в отношении количества событий, которые происходят.epoll хорошо сочетается с новым syscall recvmmsg, так как он возвращает несколько уведомлений о готовности за один раз (столько, сколько доступно, до того, что вы указываете как maxevents). Это позволяет получать, например, 15 уведомлений EPOLLIN с одним системным вызовом на занятом сервере и прочитайте соответствующие 15 сообщений со вторым системным вызовом (сокращение системных вызовов на 93%!). К несчастью, все операции с одним вызовом recvmmsg относятся к одному и тому же сокету, поэтому он в основном полезен для служб на основе UDP (для TCP должен быть вид syscall recvmmsmsg, который также принимает дескриптор сокета для каждого элемента!).EAGAIN даже при использовании epoll, потому что есть исключительные ситуации, когда epoll сообщает о готовности, а последующее чтение (или запись) все равно будет блокироваться. Это также имеет место для poll/select на некоторых ядрах (хотя предположительно было исправлено).EAGAIN не будет возвращено после получения уведомления, можно бесконечно читать новые входящие данные от быстрого отправителя, в то время как он полностью голодает медленным отправителем (пока данные продолжают поступать достаточно быстро, вы можете не видеть EAGAIN какое-то время!). Аналогично применяется к poll/select.epoll_wait (или с момента открытия дескриптора, если предыдущий вызов не был).
Истинное наблюдаемое поведение в режиме с граничным режимом намного ближе к "пробуждает первый поток, который вызвал epoll_wait, сигнализируя о том, что активность IO произошла с тех пор, как кто-либо в последний раз вызывал либо epoll_wait, либо функцию чтения/записи в дескрипторе, и после этого только готовность отчетов снова к следующему потоку, вызывающему или уже заблокированному в epoll_wait, для любых операций, которые происходят после того, как кто-либо вызвал функцию чтения (или записи) в дескрипторе". Это тоже имеет смысл... это не совсем то, что предлагает документация.kqueue
epoll, различное использование, аналогичный эффект.libevent - Версия 2.0 также поддерживает порты завершения в Windows.
ASIO - Если вы используете Boost в своем проекте, не смотрите дальше: у вас уже есть это как boost-asio.
В перечисленных выше структурах содержится обширная документация. Linux docs и MSDN подробно объясняет порты epoll и завершения.
Мини-учебник по использованию epoll:
int my_epoll = epoll_create(0); // argument is ignored nowadays
epoll_event e;
e.fd = some_socket_fd; // this can in fact be anything you like
epoll_ctl(my_epoll, EPOLL_CTL_ADD, some_socket_fd, &e);
...
epoll_event evt[10]; // or whatever number
for(...)
if((num = epoll_wait(my_epoll, evt, 10, -1)) > 0)
do_something();
Мини-учебник для портов завершения ввода-вывода (обратите внимание на вызов CreateIoCompletionPort дважды с разными параметрами):
HANDLE iocp = CreateIoCompletionPort(INVALID_HANDLE_VALUE, 0, 0, 0); // equals epoll_create
CreateIoCompletionPort(mySocketHandle, iocp, 0, 0); // equals epoll_ctl(EPOLL_CTL_ADD)
OVERLAPPED o;
for(...)
if(GetQueuedCompletionStatus(iocp, &number_bytes, &key, &o, INFINITE)) // equals epoll_wait()
do_something();
(Эти мини-туты опускают все виды проверки ошибок, и, надеюсь, я не делал никаких опечаток, но они должны по большей части быть в порядке, чтобы дать вам некоторую идею.)
EDIT:
Обратите внимание, что порты завершения (Windows) концептуально работают иначе, как epoll (или kqueue). Они сигнализируют, как их называют, завершение, а не готовность. То есть вы запускаете асинхронный запрос и забываете об этом, пока через некоторое время вам не скажут, что он завершил (либо успешно, либо не так успешно, и есть исключительный случай "завершен сразу" ).
С epoll вы блокируете, пока не получите уведомление о том, что либо "некоторые данные" (возможно, всего один байт) прибыл, либо доступен, либо имеется достаточное пространство для буфера, поэтому вы можете выполнять операцию записи без блокировки. Только тогда вы начнете фактическую операцию, которая, как мы надеемся, не будет блокирована (за исключением вас, как и следовало ожидать, для этого нет строгой гарантии - поэтому рекомендуется установить дескрипторы для неблокирования и проверить EAGAIN [EAGAIN и EWOULDBLOCK для сокетов, поскольку oh joy, стандарт допускает два разных значения ошибки]).