如何避免thrust :: device_vector中元素的默认构造？

Question

1. 似乎创建一个新的推力向量所有元素默认为0 - 我只是想确认这将永远是这种情况。

2. 如果是这样，也有办法绕过构造负责此行为额外的速度（因为一些载体，我不需要他们有一个初始值，例如，如果他们的原始指针正在作为输出传递给CUBLAS）？

Answer 1

thrust::device_vector构建它包含使用其提供的分配器，就像std::vector的元素。当向量要求它构造一个元素时，可以控制分配器执行的操作。

使用自定义分配器，以避免向量元素的默认初始化：

// uninitialized_allocator is an allocator which 
// derives from device_allocator and which has a 
// no-op construct member function 
template<typename T> 
    struct uninitialized_allocator 
    : thrust::device_malloc_allocator<T> 
{ 
    // note that construct is annotated as 
    // a __host__ __device__ function 
    __host__ __device__ 
    void construct(T *p) 
    { 
    // no-op 
    } 
}; 

// to make a device_vector which does not initialize its elements, 
// use uninitialized_allocator as the 2nd template parameter 
typedef thrust::device_vector<float, uninitialized_allocator<float> > uninitialized_vector; 

你仍然招致内核启动成本来调用uninitialized_allocator::construct，但内核将是一个空操作，这将退休很快。你真正感兴趣的是避免填充阵列所需的内存带宽，这个解决方案就是这样。

有一个完整的示例代码here。

请注意，此技术需要推力1.7或更好。