python数值误差

最新推荐文章于 2024-10-08 20:27:53 发布

NorthFish北海有鱼

最新推荐文章于 2024-10-08 20:27:53 发布

阅读量321

点赞数 1

分类专栏： python 文章标签： python 机器学习人工智能

本文链接：https://blog.csdn.net/MaYingColdPlay/article/details/141979582

版权

python 专栏收录该内容

8 篇文章 0 订阅

订阅专栏

最近在用fenics框架跑有限元代码，其中有一个部分是把在矩阵里定义的初始值，赋值到有限元空间里，这就涉及到了初始矩阵和有限元空间坐标的转化，部分代码如下

for i in range(len(dof_coordinates)):
    #     x, y = dof_coordinates[i]
        #原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.
        # ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)
        ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(
            int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意：

x要先和num_grids_per_axis相乘，然后再除以physical_length。先除再乘的话，数学逻辑上一样，但是如果一个很小的数，除以一个很大的数，会有舍入误差。所以先乘再除。