了解使用有效数字来缓解错误传播的基础知识。
在查看数字时,有规则可以确定哪个数字很重要,哪些不是。作为这些规则的副产品,当需要进行测量并执行几个数学运算以获得解决方案时,考虑这些规则并适当舍入以减少误差传播是很重要的。下面是一个规则列表,你应该遵循,以确定一个给定的数字是否被认为是有效的。
以下是有效数字:
- 在数字范围内的零(例如:240503)
- 不用于保留小数点的零(例如:98.6)00)
- 所有非零数(例如:123456789)
以下是不有效的数字:
- 设置小数点的零(例如:0。0025)
以下可能是重要的,具体取决于情况:
遵循数字的零(例如:1200)
最后一点可以适用于两个类别,因为它是每个情况的主观条件。通常是四舍五入到偶数100,例如1200,但是数字可能精确到4位,使1200包含4位有效数字。有些人甚至在数字的最后一个重要数字下面划线,以减少歧义。
给视觉型学习者的流程图。
减少错误传播
在将数学应用于重要人物时,答案通常会提出至少有效数字的数量作为任何一项从问题。如果我有3项,其中2项有4位有效数字,第三项有2位有效数字,那么答案通常只有2位有效数字。数学解析的可靠性取决于最不确定的项(也就是说,链条的强度取决于它最薄弱的环节)。在一些情况下,简化是行不通的,以下是一些例子:
- 12345 + 23 = 12358(不会因为其中一个操作数只有两个有效数字而变成12000)。
- 823 + 491 = 1314(答案的有效数字比任何一个操作数都多)。
当术语无法简化时,必须确定它们的不确定性,这是一个介于真值之间的数字范围。在进行测量时,最好总是最大化给定测量的分辨率,知道在计算完成后会有舍入,这会降低测量的精度。
工程单位
工程符号是一种科学符号的版本,它以10的权力写入,其中指数是3的倍数.10的每隔3个电源的每个第3个具有与之相关的前缀,对于较大且小于零。最常见的单位如下:
- Tera 10.12
- 千兆10.9
- 大型106
- 公斤10.3.
- 10毫-3
- 微量10.-6
- 纳米10-9
- Pico 10.-12
以下语句是等效的,每个语句都具有相同数量的有效数字:
该输入可以处理20A。
这个输入可以处理20000mA。
这个输入可以处理0.02kA。
结论
管理有效数字的规则被设计来传递有意义的数据,这样数学分辨率包含的不确定性最少。遵守这些规则不仅是良好的实践,也是减少错误传播的最佳方法。
好处:如果你想在Excel中使用工程符号,它不是原生格式,请使用以下自定义格式来显示单元格:
# # #, # # # E + 0
最后的答案不是从20A到
0.02mA
20000 ka
???
数学是正确的,但我们生活在一个电阻有5%容差,电容有20%容差的世界…3位有效数字吗?这有关系吗?一个5伏满量程的8位ADC无法区分小于20mv的增量。最重要的是,我们通常会取10个读数并将结果平均。精确的计算真的有必要吗?
LED被评为20 mA ???我把它赶到2 ma到5 ma。我只是不需要充分亮度,我经常发现保存当前有价值。我可以做很多15到18 ma。镇流器电阻的精确计算?绝不。