美文网首页
【百科】GPU的使用

【百科】GPU的使用

作者: 盐果儿 | 来源:发表于2025-08-10 17:03 被阅读0次

什么时候会用到GPU?

1. 数据或模型移动到 GPU设备上。

2. 调用支持GPU加速到计算库或框架。

GPU的使用场景?

1. 深度学习训练或推理

2.  GPU加速的向量运算/图神经网络(GNN)

3. 本地运行LLM/Embedding模型

体现方式?

1. 显式调用:

.to("cuda")

.cuda()

device=0

with tf.device('/GPU:0')

2. 隐式调用:

有些库(如 TensorFlow、cuDF、FAISS-GPU、XGBoost GPU 版)如果检测到 GPU,会自动用 GPU,不需要额外写代码,但运行时会在日志中显示:

3. 模型调用时触发:如果你用 API(如 OpenAI API、Claude API),即使它们内部用 GPU,你本地也看不到 GPU 代码,因为算力发生在云端。

相关文章

网友评论

      本文标题:【百科】GPU的使用

      本文链接:https://www.haomeiwen.com/subject/oympojtx.html