首页 > 电脑

为什么用MATLAB计算出来的结果不是0,这个结果怎么来的

更新时间2019-01-25 16:10:45

为什么用MATLAB计算出来的结果不是0,这个结果怎么来的

有一种东西叫舍入误差,不知道你有没有概念。
在计算机里只能精确表示一部分2进制的有限小数,其它的实数不论是初始数据还是中间结果都需要进行舍入。
matlab的行列式计算并不是直接用递归定义或者完全展开n!项来实现的,在消元法当中会引进舍入误差。不过不论如何,这个误差不会很大,一般来讲会小于10^{-14}量级。

上一篇:有什么电子辞典可以查多种语言?

下一篇:电脑开机黑屏,有一个白杠从左跳到右,从上跳到下。乱跳