2012年4月9日月曜日

Excelの数値入力は15桁まで

息子の算数検定6級の勉強を手伝っているとき、以下の問題がありました。

Aは、1から26までの数値をかけ合わせた数です。下桁に0は何個つきますか?

これは、5と偶数の組み合わせで、10がいくつできるが答えになる。
26以下の5の倍数は、5,10,15,20,25で、
25は5×5なので、26以下では5の掛け算が6個ある。

偶数は、26÷2で13個。
なので、5×2=10を6個つくれるので、下6桁に0がつく。

しかし、エクセルで計算すると、20までの掛け算のあとに0がドンドン増えていく。
息子の勉強の手伝いを中断して、理由を解析。

やっとわかったのは、エクセルは15桁までしか数値入力ができず、それをこえると下桁を勝手に0にしてします。

例えば、

1000000000000001

と入力すると、勝手に

1000000000000000

に変換されてしまう。

これを突き止めるのに、半日かかってしまった。

0 件のコメント:

コメントを投稿

注: コメントを投稿できるのは、このブログのメンバーだけです。