matlab精确度怎样修改
1、matlab默认精确到小数点后4位,比如输入pi显示的是3.1416是3.141592.。。的四舍五入显示。
2、我们可以使用命令format long来切换精确度到小数点后16位,比如输入pi则显示3.1415926535.。。。
3、pi是无理数,但matlab可以找到一个有理数来模拟趋近,命令是format rat这样pi就会用一个有理数355/113来表示
4、高精确度的这个科学计数法表述,命令为format long e则搜索所有的结果都会以e(X10)的形式表示,如pi=3.1415926535.。。。e+00=3.1415926535X10^0次幂
5、低精确度显示科学计数,命令是format short e则0.1*0.1表示位1e-02=1*10^(-2)次幂
6、还有切换成小数点后两位的显示方法 ,命令是format bank则有下面的效果显示:
声明:本网站引用、摘录或转载内容仅供网站访问者交流或参考,不代表本站立场,如存在版权或非法内容,请联系站长删除,联系邮箱:site.kefu@qq.com。
阅读量:31
阅读量:38
阅读量:56
阅读量:35
阅读量:62