Подтвердить что ты не робот

Почему C <stdio.h> FILE * fread() быстрее, чем Win32 ReadFile()?

Сравнение файлов чтения с использованием следующих трех методов:

  • C <stdio.h> FILE*
  • Win32 CreateFile()/ReadFile()
  • Отображение памяти Win32

Я заметил, что # 1 быстрее, чем # 2, а # 3 - самый быстрый.

например. Сортировавшись от самого быстрого до самого медленного, для обработки тестового файла 900 МБ я получил следующие результаты:

Отображение памяти Win32: 821.308 мс

Файл C (FILE *): 1779,83 мс

Файл Win32 (CreateFile): 3649.67 мс

Почему технология C <stdio.h> быстрее, чем доступ к Win32 ReadFile()? Я ожидал бы, что исходные API-интерфейсы Win32 будут иметь меньше накладных расходов, чем CRT. Что мне здесь не хватает?

Далее следует компилятивный исходный код на С++.


ИЗМЕНИТЬ

Я повторил тесты с буферами чтения 4 КБ и использовал три разные файлы (с тем же содержимым), чтобы избежать эффектов кеширования, которые могут исказить измерения производительности, и теперь результаты ожидаются. Например, для файла размером около 400 МБ результаты:

  • Отображение памяти Win32: 305.908 мс

  • Файл Win32 (CreateFile): 451.402 мс

  • Файл C (FILE *): 460.579 мс


////////////////////////////////////////////////////////////////////////////////
// Test file reading using C FILE*, Win32 CreateFile and Win32 memory mapping.
////////////////////////////////////////////////////////////////////////////////


#include <stdio.h>
#include <stdlib.h>
#include <algorithm>
#include <exception>
#include <iostream>
#include <stdexcept>
#include <vector>
#include <Windows.h>


//------------------------------------------------------------------------
//                      Performance (speed) measurement
//------------------------------------------------------------------------

long long counter()
{
    LARGE_INTEGER li;
    QueryPerformanceCounter(&li);
    return li.QuadPart;
}

long long frequency()
{
    LARGE_INTEGER li;
    QueryPerformanceFrequency(&li);
    return li.QuadPart;
}

void print_time(const long long start, const long long finish,
    const char * const s)
{
    std::cout << s << ": " << (finish - start) * 1000.0 / frequency() << " ms\n";
}


//------------------------------------------------------------------------
//                      RAII handle wrappers
//------------------------------------------------------------------------

struct c_file_traits
{
    typedef FILE* type;

    static FILE* invalid_value()
    {
        return nullptr;
    }

    static void close(FILE* f)
    {
        fclose(f);
    }
};

struct win32_file_traits
{
    typedef HANDLE type;

    static HANDLE invalid_value()
    {
        return INVALID_HANDLE_VALUE;
    }

    static void close(HANDLE h)
    {
        CloseHandle(h);
    }
};

struct win32_handle_traits
{
    typedef HANDLE type;

    static HANDLE invalid_value()
    {
        return nullptr;
    }

    static void close(HANDLE h)
    {
        CloseHandle(h);
    }
};

template <typename Traits>
class handle
{
public:
    typedef typename Traits::type type;

    handle()
        : _h(Traits::invalid_value())
    {
    }

    explicit handle(type h)
        : _h(h)
    {
    }

    ~handle()
    {
        close();
    }

    bool valid() const
    {
        return (_h != Traits::invalid_value());
    }

    type get() const
    {
        return _h;
    }

    void close()
    {
        if (valid())
            Traits::close(_h);

        _h = Traits::invalid_value();
    }

    void reset(type h)
    {
        if (h != _h)
        {
            close();
            _h = h;
        }
    }


private: // Ban copy
    handle(const handle&);
    handle& operator=(const handle&);

private:
    type _h;    // wrapped raw handle
};

typedef handle<c_file_traits> c_file_handle;
typedef handle<win32_file_traits> win32_file_handle;
typedef handle<win32_handle_traits> win32_handle;


//------------------------------------------------------------------------
//              File reading tests using various techniques
//------------------------------------------------------------------------

unsigned long long count_char_using_c_file(const std::string& filename, const char ch)
{
    unsigned long long char_count = 0;

#pragma warning(push)
#pragma warning(disable: 4996) // fopen use is OK
    c_file_handle file(fopen(filename.c_str(), "rb"));
#pragma warning(pop)

    if (!file.valid())
        throw std::runtime_error("Can't open file.");

    std::vector<char> read_buffer(4*1024); // 4 KB
    bool has_more_data = true;
    while (has_more_data)
    {
        size_t read_count = fread(read_buffer.data(), 1, read_buffer.size(), file.get());
        for (size_t i = 0; i < read_count; i++)
        {
            if (read_buffer[i] == ch)
                char_count++;
        }

        if (read_count < read_buffer.size())
            has_more_data = false;
    }

    return char_count;
}


unsigned long long count_char_using_win32_file(const std::string& filename, const char ch)
{
    unsigned long long char_count = 0;

    win32_file_handle file(::CreateFileA(
        filename.c_str(),
        GENERIC_READ,
        FILE_SHARE_READ,
        nullptr,
        OPEN_EXISTING,
        FILE_FLAG_SEQUENTIAL_SCAN,
        nullptr
        )
        );
    if (!file.valid())
        throw std::runtime_error("Can't open file.");

    std::vector<char> read_buffer(4*1024); // 4 KB
    bool has_more_data = true;
    while (has_more_data)
    {
        DWORD read_count = 0;
        if (!ReadFile(file.get(), read_buffer.data(), read_buffer.size(), &read_count, nullptr))
            throw std::runtime_error("File read error using ReadFile().");

        for (size_t i = 0; i < read_count; i++)
        {
            if (read_buffer[i] == ch)
                char_count++;
        }

        if (read_count < sizeof(read_buffer))
            has_more_data = false;
    }

    return char_count;
}


// Memory-map a file.
class file_map
{
public:
    explicit file_map(const std::string& filename)
        : _view(nullptr), _length(0)
    {
        _file.reset(::CreateFileA(
            filename.c_str(),
            GENERIC_READ,
            FILE_SHARE_READ,
            nullptr,
            OPEN_EXISTING,
            FILE_ATTRIBUTE_NORMAL,
            nullptr));
        if (!_file.valid())
            return;

        LARGE_INTEGER file_size;
        if (!GetFileSizeEx(_file.get(), &file_size))
            return;

        if (file_size.QuadPart == 0)
            return;

        _mapping.reset(::CreateFileMapping(
            _file.get(), nullptr,
            PAGE_READONLY,
            0,
            0,
            nullptr)
            );
        if (!_mapping.valid())
            return;

        _view = reinterpret_cast<char*>
            (::MapViewOfFile(_mapping.get(), FILE_MAP_READ, 0, 0, 0));
        if (!_view)
            return;

        _length = file_size.QuadPart;
    }

    ~file_map()
    {
        if (_view)
            UnmapViewOfFile(_view);
    }

    bool valid() const
    {
        return (_view != nullptr);
    }

    const char * begin() const
    {
        return _view;
    }

    const char * end() const
    {
        return begin() + length();
    }

    unsigned long long length() const
    {
        return _length;
    }

private:    // ban copy
    file_map(const file_map&);
    file_map& operator=(const file_map&);

private:
    win32_file_handle   _file;
    win32_handle        _mapping;
    char*               _view;
    unsigned long long  _length;    // in bytes
};


unsigned long long count_char_using_memory_mapping(const std::string& filename, const char ch)
{
    unsigned long long char_count = 0;

    file_map view(filename);
    if (!view.valid())
        throw std::runtime_error("Can't create memory-mapping of file.");

    for (auto it = view.begin(); it != view.end(); ++it)
    {
        if (*it == ch)
        {
            char_count++;
        }
    }

    return char_count;
}


template <typename TestFunc>
void run_test(const char * message, TestFunc test, const std::string& filename, const char ch)
{
    const long long start = counter();
    const unsigned long long char_count = test(filename, ch);
    const long long finish = counter();
    print_time(start, finish, message);
    std::cout << "Count of \'" << ch << "\' : " << char_count << "\n\n";
}


int main(int argc, char* argv[])
{
    static const int kExitOk = 0;
    static const int kExitError = 1;

    if (argc != 3)
    {
        std::cerr << argv[0] << " <char> <filename>.\n";
        std::cerr << "Counts occurrences of ASCII character <char>\n";
        std::cerr << "in the <filename> file.\n\n";
        return kExitError;
    }

    const char ch = *(argv[1]);
    const std::string filename = argv[2];

    try
    {
        // Execute tests on THREE different files with the same content,
        // to avoid caching effects.
        // (file names have incremental number suffix).
        run_test("C <stdio.h> file (FILE*)", count_char_using_c_file, filename + "1", ch);
        run_test("Win32 file (CreateFile)", count_char_using_win32_file, filename + "2", ch);
        run_test("Win32 memory mapping", count_char_using_memory_mapping, filename + "3", ch);

        return kExitOk;
    }
    catch (const std::exception& e)
    {
        std::cerr << "\n*** ERROR: " << e.what() << '\n';
        return kExitError;
    }
}

////////////////////////////////////////////////////////////////////////////////
4b9b3361

Ответ 1

Просто запустил некоторые тесты на моей машине, которые показывают, что увеличение размера буфера фактически увеличивает производительность:

C <stdio.h> file (FILE*): 1431.93 ms
Bufsize: 0
Count of 'x' : 3161882

Win32 file (CreateFile): 2289.45 ms
Bufsize: 1024
Count of 'x' : 3161882

Win32 file (CreateFile): 1714.5 ms
Bufsize: 2048
Count of 'x' : 3161882

Win32 file (CreateFile): 1479.16 ms
Bufsize: 4096
Count of 'x' : 3161882

Win32 file (CreateFile): 1328.25 ms
Bufsize: 8192
Count of 'x' : 3161882

Win32 file (CreateFile): 1256.1 ms
Bufsize: 16384
Count of 'x' : 3161882

Win32 file (CreateFile): 1223.54 ms
Bufsize: 32768
Count of 'x' : 3161882

Win32 file (CreateFile): 1224.84 ms
Bufsize: 65536
Count of 'x' : 3161882

Win32 file (CreateFile): 1212.4 ms
Bufsize: 131072
Count of 'x' : 3161882

Win32 file (CreateFile): 1238.09 ms
Bufsize: 262144
Count of 'x' : 3161882

Win32 file (CreateFile): 1209.2 ms
Bufsize: 524288
Count of 'x' : 3161882

Win32 file (CreateFile): 1223.67 ms
Bufsize: 1048576
Count of 'x' : 3161882

Win32 file (CreateFile): 1349.98 ms
Bufsize: 2097152
Count of 'x' : 3161882

Win32 memory mapping: 796.281 ms
Bufsize: 0
Count of 'x' : 3161882

Некоторые шаги в отладчике Visual Studio 2012 показывают, что размер буфера метода FILE * составляет 4096 байт, по крайней мере, на моей машине. (И, как уже говорили другие, он вызывает ReadFile тоже, если вы не читаете с консоли.)

Также интересно, что большие буферы незначительно замедляют производительность. Перемещение оператора new вне теста также не решает проблему.

Сначала тест с отображением памяти был довольно медленным для меня, потому что я запускал его в режиме отладки. Я обновил все результаты с помощью компиляции режима выпуска. Первым было отображение карты памяти.

Ответ 2

Самый быстрый доступ к диску, который я когда-либо получал, это использовать ReadFile. Но я специально открыл файл с флагами для удовлетворения требований к доступу к диску и кэшированию. Если вы просто используете его дословно, сравнение немного слабое.

Вам следует больше узнать о функции, а также CreateFile. Вы обнаружите, что вы можете считывать данные в (кратных) блоках размером по сектору с выравненной по секторам памяти. Затем вы выйдете из fread.

Как говорили другие, fread выполняет свою собственную буферизацию. Реализация буферизации с помощью ReadFile по-прежнему нуждается в работе.

Проверьте MSDN. ALl информация есть. В частности, здесь:

Ответ 3

Вы уверены, что правильно тестируете? Как вы учитываете положение диска, время поиска, кеширование файлов и т.д.?

stdio и win32 в конечном итоге делают одни и те же вызовы ядру Windows, чтобы открыть файл.

mmap делает вещи несколько иначе, потому что он может зарезервировать фактическое чтение данных до тех пор, пока он не будет использован - если у вас есть фиксированный размер файла и производительность, mmap является хорошим вариантом

Ответ 4

При использовании файла с отображением памяти нет необходимости копировать содержимое файла в приложение - оно отображается как часть виртуальной памяти непосредственно из ОС, поэтому при доступе к файловому содержимому это просто нужно читать прямо на страницу, которая входит в сопоставленную память.

Если вы правильно работаете при использовании Win32 API, это должно быть быстрее C stdio, так как в вызове меньше накладных расходов. Однако вполне возможно, что вы не получаете идеальный баланс между служебными расходами системного вызова и "слишком большим буфером, поэтому чтение занимает больше времени, чем необходимо". Я предлагаю вам попробовать с 4K или 8K (может быть, даже 32K) в качестве буфера в вашей функциональности Win32 API - с размером буфера, который является кратным 4K, идеально, поскольку страница памяти (обычно) 4KB. Меньше вызовов API делает меньше накладных расходов, но вы не хотите заходить слишком далеко.

[Я сделал некоторые тесты, подобные этому в Linux на днях, и нашел похожие результаты - и из моего опыта там: используйте разные файлы для каждого теста, иначе кеширование файловой системы поможет испытаниям, которые будут выполняться позже!].