公有云中的 Serverless TensorFlow 函数
对于软件开发者和学生来说,人工智能是有偿的。
2021年,最流行的 AI 框架 Tensorflow 开发者的平均年薪为148508 美元,换算成人民币将近百万。
现在,即使是入门级编程工作,开发者也必须具备人工智能技能。实际上,找到一篇教程,为图像识别和自然语言处理等任务训练自己的 Tensorflow 模型非常容易。只需要一些基本的 Python 知识即可进行培训出来模型,然后运行该模型进行演示。
只不过,仅知道如何使用简单的 Python 来训练模型并不会带来太大的收益。
相较训练模型,将训练好的模型作为可靠的 Web 服务提供给其他人使用要困难得多。对于开发者而言,在生产环境中部署 TensorFlow模型存在重大挑战。公司为能够克服这些挑战的人们付出了高昂的价格。
- Python语言和框架在准备和处理模型的输入和输出数据方面效率低下。据估计,AI 计算工作量的 90% 用于数据准备。 Python语言实在是太繁琐,太慢。
- 很难按需扩展服务。由于 AI 推理的计算要求,即使只有几个请求,服务器计算机也可能会被暂时中止。按需上下扩展服务器数量至关重要。
但是,有解决此问题的简单方法。借助 WebAssembly 虚拟机 SSVM 和腾讯云 serverless,你可以使用50行之内的简单 Rust 代码将 Tensorflow 模型作为服务部署到生产环境中。
简单的意思是指所用到的 Rust 函数语法非常简单,都没有用到生