- 博客(2)
- 收藏
- 关注
RSS订阅原创 【论文阅读】Model-Switching: Dealing with Fluctuating Workloads in Machine-Learning-asa Service Systems
基于机器学习（ML）的预测模型，尤其是深度神经网络（DNN），越来越多地在云中提供，以提供快速准确的推理。然而，现有的服务ML服务系统在处理波动的工作负载方面存在问题，要么放弃请求，要么在响应负载峰值时显著扩展硬件资源。在本文中，我们介绍了模型切换，这是一种处理DNN模型波动工作负载的新方法。由于观察到ML的最终用户主要关心在截止日期内返回的响应的准确性(我们称之为有效精度)，我们建议在负载峰值存在的情况下，从复杂和高度精确的DNN模型切换到更简单但不太准确的模型。Clipper。
2024-07-16 10:45:56
521
原创 Dockerfile 在Ubuntu20.04构建镜像，ERROR: failed to solve: process “...“ did not complete successfully..
2. 运行docker build即可（博主自己构建了一个循环build的脚本文件，其实大差不差）重复build了好几次，都是报这个错误，考虑镜像源问题，估计是apt-get这个命令的问题。最后结果如下：镜像构建成功！
2024-07-08 15:40:10
1297
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人