[视频]matlab精确度怎样修改？

方法/步骤

matlab默认精确到小数点后4位，比如输入pi显示的是3.1416

是3.141592.。。的四舍五入显示。

我们可以使用命令format long来切换精确度到小数点后16位，比如输入pi则显示3.1415926535.。。。

pi是无理数，但matlab可以找到一个有理数来模拟趋近，命令是format rat

这样pi就会用一个有理数355/113来表示

高精确度的这个科学计数法表述，命令为format long e则搜索所有的结果都会以e（X10）的形式表示，如pi=3.1415926535.。。。e+00=3.1415926535X10^0次幂

低精确度显示科学计数，命令是format short e

则0.1*0.1表示位1e-02=1*10^(-2)次幂

还有切换成小数点后两位的显示方法 ，命令是format bank

则有下面的效果显示：