| 双字节整数插值计算的精度分析及其应用 |
| |
| 引用本文： | 孙涵芳. 双字节整数插值计算的精度分析及其应用[J]. 宁波大学学报(理工版), 1988, 0(1) |
| |
| 作者姓名： | 孙涵芳 |
| |
| 作者单位： | 宁波大学 |
| |
| 摘 要： | 在微机测控系统和智能仪器仪表中,常用线性插值法实现传感器静态误差校正和函数逼近计算等。本文分析了用双字节定点整数运算进行插值计算所能达到的计算精度,并列举了两个计算实例。分析和计算结果证明:只要对原始数据进行合理的量化处理,双字节整数插值计算可以达到10~(-4)～10~(-5)数量级的精度。因此,这种算法可以广泛应用于微机化的系统和仪器中。采用较短字长的整数运算,具有实时性好,要求存贮器容量小和程序简单等三个突出的优点。
|
| 关 键 词： | 微计算机 精度分析 线性插值法 |
Accuracy Analysis and Application of Double Bytes Integer Operation in Interpolating Computation |
| |
| Sun Hanfang. Accuracy Analysis and Application of Double Bytes Integer Operation in Interpolating Computation[J]. Journal of Ningbo University(Natural Science and Engineering Edition), 1988, 0(1) |
| |
| Authors: | Sun Hanfang |
| |
| Affiliation: | Ningbo University |
| |
| Abstract: | |
| |
| Keywords: | Microcomputer Accuracy analysis Linear interpolation |
| 本文献已被 CNKI 等数据库收录！ |
|
