息子の算数検定6級の勉強を手伝っているとき、以下の問題がありました。
Aは、1から26までの数値をかけ合わせた数です。下桁に0は何個つきますか?
これは、5と偶数の組み合わせで、10がいくつできるが答えになる。
26以下の5の倍数は、5,10,15,20,25で、
25は5×5なので、26以下では5の掛け算が6個ある。
偶数は、26÷2で13個。
なので、5×2=10を6個つくれるので、下6桁に0がつく。
しかし、エクセルで計算すると、20までの掛け算のあとに0がドンドン増えていく。
息子の勉強の手伝いを中断して、理由を解析。
やっとわかったのは、エクセルは15桁までしか数値入力ができず、それをこえると下桁を勝手に0にしてします。
例えば、
1000000000000001
と入力すると、勝手に
1000000000000000
に変換されてしまう。
これを突き止めるのに、半日かかってしまった。
0 件のコメント:
コメントを投稿
注: コメントを投稿できるのは、このブログのメンバーだけです。