标题:
vpa函数在matlab中计算结果精确位数的使用
[打印本页]
作者:
yuyang911220
时间:
2017-2-23 16:50
标题:
vpa函数在matlab中计算结果精确位数的使用
一般使用vpa函数来实现数值精确到小数点后某一位
vpa会根据精度要求去掉末尾的数位或者补0
例如
>> a=1.23456789
a =
1.2346
>> b=vpa(a,7)
b =
1.234568
>> vpa(a,12)
ans =
1.23456789000
需要注意
的是vpa的结果是符号数值,可以用于初等运算,不可用于关系运算
例如
>> 1+b
ans =
2.234568
>> 1>b
??? Undefined function or method 'gt' for input arguments of type 'sym'.
此外,也可用
round(a*10^N)/(10^N)
来实现精确到某一位小数
根据不同的取舍需要可用fix,floor,ceil来替换round
欢迎光临 电子技术论坛_中国专业的电子工程师学习交流社区-中电网技术论坛 (http://bbs.eccn.com/)
Powered by Discuz! 7.0.0