
58
2-11 小數位數﹑有效位數﹑及指數記法
u有關指定小數位數的細節,請參閱第23頁。
u有關指定有效位數的細節,請參閱第23頁。
u有關指定指數記法的細節,請參閱第24頁。
範例 操作 顯示
100 ÷ 6 = 16.66666666...
100
//
//
/6 w
16.66666667
(4 位小數位數)
,6(DSP/CLR) 1(Fix) 4
16.6667
(取消指定)
,6(DSP/CLR) 3(Norm) 1
16.66666667
(5 位有效位數)
,6(DSP/CLR) 2(Sci) 5
1.6667E+
rr
rr
r1
(取消指定)
,6(DSP/CLR) 3(Norm) 1
16.66666667
u顯示值被舍入至指定的位數。
200 ÷ 7 × 14 = 400
200 /7 *14 w
4
rrrr
rrrr
rr
(3位小數位數)
,6(DSP/CLR) 1(Fix) 3
4
rrrr
rrrr
rr.
rrrrrr
rrrrrr
rrr
(計算以10位顯示繼續進行)
200 /7 w
28.571
*
Ans × _
14 w
4
rrrr
rrrr
rr.
rrrrrr
rrrrrr
rrr
如果用指定的位數進行同樣的計算:
200 /7 w
28.571
(內部存儲的數據被舍入於所指定的小數位。)
$4
28.571
*
Ans × _
14 w
399.994
(取消設定)
, 6(DSP/CLR) 3(Norm) 1
399.994
Comentários a estes Manuais