Fluent中单精度和双精度区别
先说结论：始终勾选“double precision”选项，让Fluent程序运行于双精度模式下。
1 什么是精度
精度是编程中的概念，表示了数据存储的精确性。举例，2/3，在1位小数精度下为0.7，在3位小数精度下则为0.667。很显然，数据存储的精度越高，则数值计算的准确性越好，但是消耗更多的硬件资源。单精度和双精度都是IEEE 754标准中规定的数字存储方法，其中单精度数字需要32比特空间，双精度需要64比特空间。根据IEEE 754标准中的规定可得知，单精度数字范围2^-126到2^127，双精度数字范围2^-1022到2^1023。
2 精度在Fluent的影响
Fluent采用C语言编写，C语言中的数据类型，float和double分别对应于IEEE 754标准的单精度和双精度数字。
由于双精度数据有更长的小数位，因此相对于单精度数据，在求解的准确性上会有少许提升，数值截断误差更小。对于初始条件敏感、存在大梯度或者物理量跨越多个数量级的问题，单精度模式下的求解精度、计算收敛性等会急剧恶化。
硬件层面，计算时间、内存占用和磁盘空间占用更多的受到物理机理、网格数量、算法设置的影响，数据精度对于这些方面的影响极小，可以忽略不计。
对同一案例用单精度和双精度做对比：采用标准初始化，指定计算域所有部分温度均为300 K 。对比可发现，双精度下的初始化结果没有微小的数值波动，但是单精度模式存在微小的数值波动
单精度模式的初始化结果
双精度模式的初始化结果
著作权归作者所有，欢迎分享，未经许可，不得转载
首次发布时间：2023-06-20
最近编辑：1年前
