scum_JAKE的博客

原创 sigmoid的良性替代方案

项目落地的时候，一定需要算法的统筹，实现算法整套流程进行验证的同时，还需要考虑资源与算子的实现问题，总之算法真的又当爹又当妈，修改算法和找到替换方法永远是个困难的事。之前遇到一个网络量化问题，很多算子使用amct量化方式不适合，于是自己搞了个量化方式，具体量化方式不太能说，但是解决里边问题时候遇到一个算法很有意思——平方根快速倒数算法，虽然没用上。