求助一个显示数据优化的算法

mthgh0818 · 发表于 2015-7-17 11:02:50

最近在做一个外国设备的仿制产品，实现的精度差不多，但我发现国外产品的显示精度很高，实际上是达不到的，但不知道他们怎么做的数据优化。举例：设置数据为1000，可以看到他们的显示数据从0一直在增加，最后可以达到999.9999，并稳定在这个数据。我们现在做出的结果是990到1050之间波动，我估计他们的结果也类似，就是数据上进行了修饰。哪位大神知道这样数据修饰的方法或者算法，请教一下。