为什么在opencl中随着消息大小增加带宽增加？

Question

嗨在一篇关于opencl中的数据传输的文章中，我读了由于我们想要发送到设备内存的数据大小增加了带宽会增加，但我不知道为什么。有人可以向我解释为什么带宽会增加吗？

Answer 1

每次内核启动或从GPU传输时，都会有几微秒的短暂延迟。从历史上看，AMD GPU比Nvidia GPU更大。因此，发送数据需要两个时间：latency + X * Y B/s其中X是字节数，Y是理论带宽。当X很小时，X * Y并不比latency大很多。由于X变大，例如多个兆字节，总时间的latency分量占总时间的很小一部分，因此它变得微不足道。