JIS丸め
JIS Z 8401に規定されている数値の丸め方、一般的にJIS丸めと呼ばれています。C社やS社の電卓はJIS丸めに対応しているのでしょうか。HP電卓がJIS丸めに完全対応している事実を最近知りました。計算例は以下の通りです(有効数字12桁のRPN電卓の場合)。
【例その1】
1.5.00000000003(0が10個)をEnter
2.続いて5.00000000002(0が10個)をEnter
3.2つの数字を掛ける
4.答えが25.0000000003ならJIS丸めできてます
【例その2】
1.5.00000000001(0が10個)をEnter
2.続いて5をEnter
3.2つの数字を掛ける
4.答えが25ならJIS丸めできてます
一般の関数電卓は有効数字10桁なのでゼロはn-2で8個です。
有効数字10桁の電卓の場合、
【例その1】5.000000002×5.000000003
【例その2】5.000000001×5
となります。
以上、下記アドレスで教えていただきました(HP電卓関係へは下の200LXのバナーからどうぞ)。ありがとうございました。
- 2003/01/07更新
- 2003/01/07登録
- 3624クリック
このキーワードを共有する
-
メイン
コメント (0)
まだコメントされていません。
つながりキーワード (2)
万年カレンダー for HP48
- (speyside)
万年カレンダー、パソコンが普及してからはありがたみが薄れてしまいましたが、ほんの20数年前の数学専門誌ではその特集が組まれていたりもしました。とはいっても、Excelやら...
HP 48SX
- (speyside)
私が高校生の時、バイトの金を注ぎ込んで買ったHP 48SX。当時、あれこれプログラムを作って楽しんだのを思い出します。発売から10年以上が経ちましたが、今でもバリバリ使っ...







万年カレンダー fo...
HP 48SX
公衆電話マップ ap...
Myst Online: Ur...


