PostScript:修复 float 的舍入错误

Question

我正在尝试制作一个带有数字标记的轴。一切工作正常，除了为轴生成的最后一个数字是 0.099999 而不是 0.1。我已从下面的代码中删除了线条绘制部分，但保留了生成数字的部分。这些是我从下面的代码中得到的数字:1.0、0.9、0.8、0.7、0.6、0.5、0.4、0.3、0.2、0.09999999(应该是 0.01)。是否有办法对数字进行舍入或以不同的方式计算数字以避免舍入误差？

/str 10 string def
/count 0 def
/totalUnits 1 def
/ticks 0.1 def

totalUnits ticks neg 0
{
/loopnum exch def
loopnum 10 str cvrs
/stringnumber exch def % string representing the number
/count count 0.1 add def
} for

Answer 1

正如评论所述，您可以使用整数来避免 float 的这种怪癖。

/str 10 string def 
/count 0 def 
/scaling .1 def 

10 -1 1{
    scaling mul 
    10 string cvs 
    %dup =
    /stringnumber exch def 
    /count count 1 add def 
} for 

同样的舍入问题会影响所有使用二进制浮点表示形式的语言，因为分数 1/10 在其二进制表示形式中具有重复模式。这与以十进制表示形式为 1/3 提供 0.333333... 的效果相同。对这些数量求和会丢失底部(输入)值已被截断的位。