JNH 今年会
今年会JNH / 数值处理

今年会|传感器的小数末位跳动,先确认数值怎样表示

高大斜柱与玻璃幕墙构成的建筑入口空间
主题资料图片 · 来源与许可

设备曲线看起来稳定,导出时却出现很长的小数尾巴,或几次相加后的末位略有差异。今年会从常见浮点表示谈起,帮助区分计算表示与真实测量变化,不让每一位数字都承担物理意义。

十进制小数未必能精确保存

MDN的JavaScript数值资料说明,常用Number采用二进制浮点表示,部分十进制小数只能近似表达。因而简单运算也可能出现细小误差,这不自动说明传感器真的检测到了同样微小的变化。另一方面,也不能把所有波动都归因于浮点,原始测量、通信与换算需要分别检查,程序表示只是其中一层,不能替代真实数据分析。

记录应区分设备提供的分辨率、计算采用的类型和界面显示位数。把结果显示到很多位,并不会提升测量精度;过早取整又可能影响后续计算。可以按协议保留合适原始值,在显示环节采用明确规则,必要时使用适合任务的数值方法,而不是为了让曲线平滑就随意删改原始资料,视觉效果和数据处理目的应分开。

比较规则需要按任务设计

判断两个值是否足够接近,不能在所有场景都机械要求逐位相等,也不能随意设置一个通用误差阈值。应根据单位、量级与业务要求确定方法,并记录依据。若协议提供定点整数,可以按约定处理缩放,避免未经考虑地在多个模块反复换算,造成累计差异后难以追溯。

验证时使用已知样本,检查读取、计算、显示和导出的结果是否符合规则。异常提示应帮助定位哪一层改变,而不是直接给设备贴上不准确标签。把表示误差与测量含义分清楚,数字才能成为有背景的资料,而不是看起来精密的装饰。

参考资料

  1. MDN Web Docs:Web技术资料 ↗
← 返回新闻资讯