人工智能
枫溪夜影
FPGA硬件出身的人工智能工程师
展开
-
TPU结构总结
TPU只完成推理过程,训练过程在GPU上完成。TPU可以像GPU一样通过PCIe总线接口挂载到现有的服务器上。设计目标是为了在TPU上完成所有的推理模型,从而减少和主机CPU的交互,进而满足2015年及今后的神经网络需求。下图是TPU的整体结构框图。主机通过PCIe Gen3x16的总线发送TPU的指令到其中的指令buffer内,内部模块之间通过典型的256位宽通路连接。右上角的矩阵乘法单元是TP...原创 2017-10-19 14:44:48 · 5118 阅读 · 0 评论 -
容量、表示容量、有效容量、拟合
我们训练机器学习模型时,可以选择训练集来拟合目标函数,降低训练误差,并缩小训练误差和测试误差的差距(欠拟合和过拟合)。 模型的容量可以理解为我们用来拟合各种函数所需的特征或者说能力。容量低的模型可能在训练集上就会很难拟合目标函数,产生而欠拟合;容量高的模型或许会在训练集上可以很好的拟合目标函数,而不具备一定的泛华能力,导致过拟合。 增加模型容量的方法有很多,比如我们使用线性回归...原创 2018-02-23 10:08:44 · 2346 阅读 · 0 评论