计算器显示的位数比任何考试答案所需的都多。合适的精度，是指给出题目要求的精确程度，例如 3 位有效数字（significant figures）或 2 位小数（decimal places），并且直到最后一步才取近似，之前保留完整数值。每次在图形计算器结果解读中求出根、交点或计算结果，都会用到这项技能。
怎样正确取近似值？
- 先看要求。 小数位从小数点之后开始数。有效数字从第一个非零数字开始数。
- 找到你要保留的最后一位。 看它后面的一位。
- 后面一位是 5 或更大就进位， 是 4 或更小就保持原样。
- 需要时写出末尾的零。 16.0 取 3 位有效数字，表示了精度。
- 只取一次近似， 放在最后一步。
如果题目没有要求，考试指引通常期望对不精确的数值取合理的精度，如 3 位有效数字。请逐题看清措辞。
例题
x² − 2x − 4 = 0 的正根是 1 + √5，计算器显示 3.236067977。
- 3 位有效数字： 前三位是 3、2、3，下一位是 6，进位：3.24。
- 2 位小数： 是 3.23，下一位是 6，所以 3.24。
- 1 位小数： 是 3.2，下一位是 3，所以 3.2。
注意，这里 3 位有效数字和 2 位小数一致，只是因为这个数在 1 和 10 之间。
为什么太早取近似很要紧
求 (1 + √5)³，取 3 位有效数字。
正确： (1 + √5)³ = 1 + 3√5 + 15 + 5√5 = 16 + 8√5。√5 = 2.2360680，8√5 = 17.888544，所以数值是 33.888544。取 3 位有效数字：33.9。
太早取近似： 用前面得到的 3.24。3.24² = 10.4976，10.4976 × 3.24 = 34.012224。取 3 位有效数字得 34.0。
两个答案在第三位就不同了，因为 3.24 里的小误差被乘大了。安全的习惯是使用计算器里存储的答案，而不是重新输入已经取过近似的数。
要避免的错误
错误的解答： x = 3.24，所以 x³ = 34.0。
第一行是对根的合理近似，但第二行不能建立在它之上。纠正的方法是保留精确形式或完整小数，立方之后只对结果取一次近似。你也可以在过程里写出 1 + √5，让考官在你取近似之前先看到精确值。
自我检测
1. 把 0.0045678 取 2 位有效数字。
显示答案
第一位有效数字是 4，第二位是 5，下一位是 6，要进位。答案是 0.0046。
2. 计算器显示 15.996。取 3 位有效数字和 1 位小数。
显示答案
取 3 位有效数字，前三位是 1、5、9，下一位是 9，进位得 16.0。取 1 位小数，15.9 后面是 9，同样进位得 16.0。两个答案都是 16.0，这个零必须写出来。
3. 把 12 345.6 取 3 位有效数字。
显示答案
前三位是 1、2、3，下一位是 4，所以不进位。位值很重要，要写 12 300，而不是 123。
接下来学什么？
下一课说明怎样把这些清楚地写下来：记录计算器辅助的解题方法。你可以在综合练习中检验自己的取近似，并用不用计算器的解题训练器手算检查精确运算。
因为精度而不是理解丢分的学生，通常需要的是一套固定程序，而不是新的内容。一对一线上数学补习的老师可以和你一起建立这套程序。