関心空間はコンピュータのクチコミも満載!

新着

... もっとみる
ログイン | ユーザー登録(無料)

JIS丸め

  • JIS丸めの画像

JIS Z 8401に規定されている数値の丸め方、一般的にJIS丸めと呼ばれています。C社やS社の電卓はJIS丸めに対応しているのでしょうか。HP電卓がJIS丸めに完全対応している事実を最近知りました。計算例は以下の通りです(有効数字12桁のRPN電卓の場合)。

【例その1】
1.5.00000000003(0が10個)をEnter
2.続いて5.00000000002(0が10個)をEnter
3.2つの数字を掛ける
4.答えが25.0000000003ならJIS丸めできてます

【例その2】
1.5.00000000001(0が10個)をEnter
2.続いて5をEnter
3.2つの数字を掛ける
4.答えが25ならJIS丸めできてます

一般の関数電卓は有効数字10桁なのでゼロはn-2で8個です。
有効数字10桁の電卓の場合、
【例その1】5.000000002×5.000000003
【例その2】5.000000001×5
となります。
以上、下記アドレスで教えていただきました(HP電卓関係へは下の200LXのバナーからどうぞ)。ありがとうございました。

JIS丸め

このページに
携帯でアクセス

2次元バーコード対応の携帯で読み取ってください

speyside画像 投稿者:
speyside

コメント (0)

まだコメントされていません。

つながりキーワード (2)

万年カレンダー、パソコンが普及してからはありがたみが薄れてしまいましたが、ほんの20数年前の数学専門誌ではその特集が組まれていたりもしました。とはいっても、Excelやら...

骨董品・アンティークHP 48SX

  • (speyside)

私が高校生の時、バイトの金を注ぎ込んで買ったHP 48SX。当時、あれこれプログラムを作って楽しんだのを思い出します。発売から10年以上が経ちましたが、今でもバリバリ使っ...

携帯でこのページにアクセス

JIS丸め

2次元バーコード対応の
携帯で上の画像を読み
取るとアクセスできます

トラックバック (0)

まだトラックバックされていません。

トラックバックURL
http://www.kanshin.com/tb/keyword-234225

キャンペーン


ロケットニュース24

未来検索 ガジェット通信
ページの先頭へ ページの先頭へ