Macのnumbersについての質問です。 数式を設定し、数値計算すると、結果が勝手に丸められてしまうということが起きてしまっています。 たとえば、 84853957414411833344→84853957414411800000 というようにです。 おそらく、数が大きすぎるのが原因かと思いますが、なんとかならないものでしょうか。 もし表示範囲を設定できる箇所などがあれば知りたいです。よろしくおねがいします。
MacBook Air 13″, macOS 11.2
整数で計算されてるのですか？
表計算は汎用目的のために、普通は内部的には浮動小数点で計算してます。すると、15桁がまあまあの精度が得られる限度ということなのでは？
numbersは内部的には128bitの倍々精度で計算してますので、本来なら10進で30桁ぐらいの精度はありそうですが、計算過程の桁落ちとかも考慮すると15桁がいいところということではないかと思います。実際、φ=(sqrt(5)-1)/2という数に対して、数学的には、φ^(n+1)=φ^(n-1)-φ^nという恒等式が成り立ちますが、numbersやexcelで数値計算させてみると15桁が良いところです。
Pages、Numbers、Keynote の計算の精度向上について - Appleサポート
Apple、2019年6月のアップデートでNumbersなどに採用された128ビット計算エンジンについて説明
教えていただきありがとうございます。
やはり、15桁くらいが限界なのですね。
なるほど、了解いたしました。
numbersの数値が自然に丸められてしまいます∙∙∙
