Как я могу выделить и перенести (в/из узла) 2D-массивы в память устройства в Cuda?
Выделить 2D-массив на память устройства в CUDA
Ответ 1
Я нашел решение этой проблемы. Мне не пришлось сгладить массив.
Встроенная функция cudaMallocPitch()
выполнила задание. И я могу передать массив на устройство и с него с помощью функции cudaMemcpy2D()
.
Например
cudaMallocPitch((void**) &array, &pitch, a*sizeof(float), b);
Это создает 2D-массив размером a * b с шагом, переданным как параметр.
Следующий код создает 2D-массив и петли над элементами. Он легко компилируется, вы можете использовать его.
#include<stdio.h>
#include<cuda.h>
#define height 50
#define width 50
// Device code
__global__ void kernel(float* devPtr, int pitch)
{
for (int r = 0; r < height; ++r) {
float* row = (float*)((char*)devPtr + r * pitch);
for (int c = 0; c < width; ++c) {
float element = row[c];
}
}
}
//Host Code
int main()
{
float* devPtr;
size_t pitch;
cudaMallocPitch((void**)&devPtr, &pitch, width * sizeof(float), height);
kernel<<<100, 512>>>(devPtr, pitch);
return 0;
}
Ответ 2
Сгладьте это: сделайте его одномерным. Посмотрите, как это делается здесь
Ответ 3
Код вашего устройства может быть быстрее. Попробуйте использовать потоки больше.
__global__ void kernel(float* devPtr, int pitch)
{
int r = threadIdx.x;
float* row = (float*)((char*)devPtr + r * pitch);
for (int c = 0; c < width; ++c) {
float element = row[c];
}
}
Затем вы вычисляете распределение блоков и потоков, чтобы каждый поток имел дело с одним элементом.