📌 项目地址：cupy/cupy | ⭐ 11,431 颗星 | 🔧 Python | 📜 未标注
为什么需要CuPy：从CPU到GPU的零摩擦跳板
做科学计算、机器学习或图像处理时，NumPy几乎是Python的标准数据容器。但当你面对百万甚至亿级元素时，CPU的并行能力就成为瓶颈。通常的解法有两种：要么自己用CUDA写内核（门槛高、调试难），要么转向PyTorch/TensorFlow（需要改写API风格）。有没有一种方式，能让现有NumPy代码几乎原封不动地在GPU上跑起来？这就是CuPy的核心价值——它实现了与NumPy（以及SciPy大部分函数）完全一致的接口，但底层操作全部运行在NVIDIA CUDA或AMD ROCm GPU上。你只需要把 import numpy as np 改成 import cupy as cp，大部分代码就能直接利用GPU加速。
实际用法：从安装到第一段GPU加速代码
安装（必须严格匹配你的CUDA版本）
CuPy的pip包根据CUDA版本分别发布，官方给出了明确的安装命令：
| Platform | Architecture | Command |
|---|---|---|
| CUDA 12.x | x86_64 / aarch64 | pip install cupy-cuda12x |
| CUDA 13.x | x86_64 / aarch64 | pip install cupy-cuda13x |
| ROCm 7.0 | x86_64 | pip install cupy-rocm-7-0 |
如果想安装预发布版，则 append --pre -U -f https://pip.cupy.dev/pre。Conda用户也可以从conda-forge安装，命令参考官方文档。
核心代码示例（源自README）
>>> import cupy as cp
>>> x = cp.arange(6).reshape(2, 3).astype('f')
>>> x
array([[ 0., 1., 2.],
[ 3., 4., 5.]], dtype=float32)
>>> x.sum(axis=1)
array([ 3., 12.], dtype=float32)
这段代码与NumPy的写法完全一致，区别在于 arange、reshape、astype、sum 等全部在GPU上执行。对于熟悉NumPy的人，学习成本几乎为零。
深入：访问底层CUDA特性
CuPy不只是封装了NumPy接口，它还暴露了CUDA底层能力，让你可以在GPU上运行自定义C代码、管理流、甚至直接调用CUDA Runtime API。例如通过RawKernels编写自己的内核：
# 具体用法参考官方文档 (RawKernels)
# 你可以把一个C字符串编译为GPU函数，然后以ndarray作为输入
还可以使用Streams进行异步操作，精细控制GPU资源。这些功能让CuPy在“易用”和“灵活”之间找到了平衡。
与同类工具的区别：什么是它独有的？
对比成熟的GPU计算库：
– PyTorch/TensorFlow：它们也提供GPU支持的数组，但API设计偏向深度学习（自动微分、动态图），而且数据结构tensor与ndarray不完全兼容。迁移现有NumPy代码往往需要改写所有函数调用。
– Numba：通过JIT编译将Python函数转成CUDA内核，但你仍需要手写内核函数或使用 @vectorize，对复杂NumPy操作支持不全。
– JAX：类似但要求函数式编程，对副作用有限制。
CuPy的优势在于最直接的兼容性：无论是 numpy.linalg、numpy.fft、还是 scipy.signal，都有对应的GPU实现。你可以像操作普通ndarray一样操作 cupy.ndarray，并且 cp.asnumpy() 可以在任何时候把数据移回CPU。对于已经用NumPy写好的数据预处理管线、物理仿真、统计计算等，CuPy是最低成本获得GPU加速的方案。
注意事项：别踩的坑
- 硬件与驱动：CuPy需要NVIDIA CUDA或AMD ROCm环境，且必须与安装包的版本严格匹配。例如
cupy-cuda12x要求CUDA 12.x运行时，不是更高或更低版本。 - 并非所有NuMPy功能都已实现：虽然覆盖了大部分，但仍有少数边缘函数缺失。可以在官方对比表中查询。
- CPU与GPU间的数据传输开销：频繁在
cp.asnumpy()和cp.array()之间切换会削弱性能。最好在GPU上完成整个计算链后再一次取回。 - 内存限制：GPU显存通常远小于系统内存（例如8GB-80GB），处理超大数组时需分块或使用out-of-core技术。
- 多进程与多线程：CuPy的默认上下文管理在不同线程中可能有潜在问题，建议在单线程或单个进程中运行，或显式管理CUDA context。
对于科学计算、图像批处理、快速原型验证等场景，CuPy是一个经过社区验证（超11000星）且仍在活跃维护的选择。如果你的项目已经依赖NumPy代码，并且有NVIDIA/AMD GPU资源，不妨试试用一个字母的改动来提速。