雷竞技注册
技术文章

有效数字和工程单位

2016年2月09日通过迈克尔的股票

一些使用有效数字和减少错误传播的经验规则。

了解使用有效数字来缓解错误传播的基础知识。

在查看数字时,有规则可以确定哪个数字很重要,哪些不是。作为这些规则的副产品,当需要进行测量并执行几个数学运算以获得解决方案时,考虑这些规则并适当舍入以减少误差传播是很重要的。下面是一个规则列表,你应该遵循,以确定一个给定的数字是否被认为是有效的。

以下是有效数字:

  • 在数字范围内的零(例如:240503)
  • 不用于保留小数点的零(例如:98.6)00)
  • 所有非零数(例如:123456789)

以下是不有效的数字:

  • 设置小数点的零(例如:0。0025)

以下可能是重要的,具体取决于情况:

  • 遵循数字的零(例如:1200)

最后一点可以适用于两个类别,因为它是每个情况的主观条件。通常是四舍五入到偶数100,例如1200,但是数字可能精确到4位,使1200包含4位有效数字。有些人甚至在数字的最后一个重要数字下面划线,以减少歧义。

给视觉型学习者的流程图。

减少错误传播

在将数学应用于重要人物时,答案通常会提出至少有效数字的数量作为任何一项从问题。如果我有3项,其中2项有4位有效数字,第三项有2位有效数字,那么答案通常只有2位有效数字。数学解析的可靠性取决于最不确定的项(也就是说,链条的强度取决于它最薄弱的环节)。在一些情况下,简化是行不通的,以下是一些例子:

  • 12345 + 23 = 12358(不会因为其中一个操作数只有两个有效数字而变成12000)。
  • 823 + 491 = 1314(答案的有效数字比任何一个操作数都多)。

当术语无法简化时,必须确定它们的不确定性,这是一个介于真值之间的数字范围。在进行测量时,最好总是最大化给定测量的分辨率,知道在计算完成后会有舍入,这会降低测量的精度。

工程单位

工程符号是一种科学符号的版本,它以10的权力写入,其中指数是3的倍数.10的每隔3个电源的每个第3个具有与之相关的前缀,对于较大且小于零。最常见的单位如下:

  • Tera 10.12
  • 千兆10.9
  • 大型106
  • 公斤10.3.
  • 10毫-3
  • 微量10.-6
  • 纳米10-9
  • Pico 10.-12

以下语句是等效的,每个语句都具有相同数量的有效数字:

该输入可以处理20A。

这个输入可以处理20000mA。

这个输入可以处理0.02kA。

结论

管理有效数字的规则被设计来传递有意义的数据,这样数学分辨率包含的不确定性最少。遵守这些规则不仅是良好的实践,也是减少错误传播的最佳方法。

好处:如果你想在Excel中使用工程符号,它不是原生格式,请使用以下自定义格式来显示单元格:

# # #, # # # E + 0

4评论
  • R
    RUBEN_M3D1N4 2016年2月11日

    最后的答案不是从20A到
    0.02mA
    20000 ka
    ???

    喜欢。 回复
    • 蒂姆yb 2016年2月12日
      谢谢你指出这点!我格式化这段的时候,不小心多放了一个零。工程单位是正确的。
      喜欢。 回复
  • hp1729 2016年2月26日

    数学是正确的,但我们生活在一个电阻有5%容差,电容有20%容差的世界…3位有效数字吗?这有关系吗?一个5伏满量程的8位ADC无法区分小于20mv的增量。最重要的是,我们通常会取10个读数并将结果平均。精确的计算真的有必要吗?
    LED被评为20 mA ???我把它赶到2 ma到5 ma。我只是不需要充分亮度,我经常发现保存当前有价值。我可以做很多15到18 ma。镇流器电阻的精确计算?绝不。

    喜欢。 回复