FC2ブログ

電卓だけど・・・

RL78ボードを電卓として使うためには、実数のデータを正しく表示できなければなりません。

表示用の液晶は8桁×2段なので

 -abcdefg
 .higklmn

つまり、表示させる範囲は
-9999999.9999999から
9999999.9999999まで
整数部7桁、小数部7桁で表示させたいと思い、プログラムを考えはじめました。

いくつかの実験をしてみたところ、整数部は正しく出せるのに小数部がうまく出せません。
どうやら、RL78はdouble型でも32bit(符号1bit+指数部8bit+仮数部23bit)で、
大きな数をひとつの変数に入れて簡単に扱うということは簡単でないということが解ってきました。
その辺がルネサスでもお手軽マイコンということなのでしょうか・・・

もう少し考えてみたいと思います・・・

この記事へのコメント:

管理人のみ通知 :

トラックバック: