基于 AWS Lambda 的基于 GPU 的算法

我有一个执行一些数学运算的函数,需要一个16gb的GPU系统,但是这个函数不会总是被触发,其余时间我的系统不会被使用。我开始了解 AWS Lambda。我可以在 Lambda 上运行基于 GPU 的算法吗?因此,每当我需要GPU时,我都会将系统放在云上。我需要一些关于它的描述。


答案 1

您无法为 AWS Lambda 函数指定运行时环境,因此不可以,您不能要求存在 GPU(事实上,AWS 选择放入其 Lambda 池的物理机几乎肯定不会有 GPU)。

最好的办法是在配置为使用 p 类型实例的计算群集上将需要 GPU 的函数作为 Batch 作业运行。此处的指南可能会有所帮助。


答案 2

目前,lambda 没有 GPU。

但是,如果您只需要进行推理;通过 CPU 进行的仿真在 AWS lambda 上工作正常;这是一篇更详细地介绍的文章:

https://aws.amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/


推荐