设备 组成公司的
L2330
coordinate 变压器
6
特定的 arithmetic 功能
09/27/2001–lds.2330-e
内部的 精确
当 performing 一个 coordinate
transformation, 不精确 是
introduced 用 一个 结合体 的
quantization 和 approximation
errors. 这 精度 的 一个 coordinate
变压器 是 依赖 在 这
文字 长度 使用 为 这 输入
变量, 这 文字 长度 使用 为
内部的 calculations, 作 好 作 这
号码 的 iterations 或者 步伐 每-
formed. truncation errors 是 预定的
至 这 finite 文字 长度, 和
approximation errors 是 预定的 至 这
finite 号码 的 iterations. 为
例子, 在 这 情况 的 performing 一个
polar-至-rectangular transformation,
这 精度 的 这 旋转 将 是
决定 用 如何 closely 这 输入
旋转 角度 是 近似 用
这 summation 的 sub-旋转
angles.
在 这个 study, 我们 examine 这
成效 的 16-位 内部的
精确 相比 24-位 内部的
精确. 10,000 随机的 rectangu-
lar coordinates 是 转变 至
polar 和 后面的 至 rectangular. 这
结果 rectangular coordinates
从 这个 翻倍 转换 是
然后 对照的 至 这 原来的
rectangular coordinates 输入 至 这
设备. 这些 vectors, 和 maxi-
mum 文字 宽度 的 16-位, 是
sent 通过 一个 16-位 内部的
处理器 相比 一个 24-位 内部的
处理器. 这 rectangular coordi-
nates 是 限制 至 这 下列的
情况:
–32769<x<32768
–32769<y<32768
使用 这 16-位 内部的 处理器, 这
结果 rectangular coordinates 是
对照的 至 这 原来的 rectangular
coordinates (看 表格 3). 使用 这 24-
位 内部的 处理器, 这 结果
错误 内部的 16-位 内部的 24-位
意思 错误 (x) 0.0216 –0.0118
意思 错误 (y) –0.0036 –0.0028
意思 绝对 错误 (x) 1.5736 0.5116
意思 绝对 错误 (y) 1.0756 0.5160
root 意思 正方形的 错误 (x) 2.0168 0.7664
root 意思 正方形的 错误 (y) 1.4356 0.7738
最大值 错误 (x) 6.0/–7.0 3.0/–3.0
最大值 错误 (y) 5.0/–5.0 3.0/–3.0
标准 背离 的 错误 (x) 2.0168 0.7664
标准 背离 的 错误 (y) 1.4357 0.7739
T
能
3. D
OUBLE
C
ONVERSION
E
RROR
rectangular coordinates 是 com-
pared 至 这 原来的 rectangular
coordinates (看 表格 3). 用 方法 的
comparison 在 这 16-位 内部的
处理器 和 这 24-位 内部的
处理器, 我们 find 那 这 24-位
内部的 处理器 是 significantly 更多
精确. 这个 精度 是 预定的 至
内部的 文字 长度. 在 coordi-
nate transformation, 这 号码 的 位
truncated 在里面 一个 24-位 内部的
处理器 是 更 小 比 在 一个
16-位 内部的处理器 结果 在
小 错误.
: 点此下载
