[英]Having problem with decimal points in MS Excel 2007
我想生成一個帶有大十進制數的圖形,如-106.63633167743683或52.132235169410706。 但是,每當我在Excel工作表中輸入值時,它就會給我類似-106.63633167743600的值(因為我格式化了具有15個小數位的單元格)。 它將最后兩位數字的值替換為0。
有人可以幫忙嗎?
106.63633167743600
1 1
1--.-5----0----5
Excel編號存儲為IEEE雙精度值(請參閱http://support.microsoft.com/kb/78113 )。 這意味着數字只能有15個有效數字 。 要表示106.63633167743683,需要17個有效數字,這對於Excel來說太過分了。 因此,最后兩位數字為零。
(Excel不適用於高精度算術。)
您的示例中的兩個數字都將出現在散點圖上嗎? 我無法想象有足夠大的計算機監視器來顯示它們兩者的精確度。 您是否不需要某個方向上具有1.5 * 10 ^ 17像素的東西? 例如,我的顯示器高1050。
或者,如果這些是不同數據集中數字的示例,並且您想要繪制類似
-106.63633167743683
-106.63633167743692
差異在第16個有效位數及以下的位置下降,您可以簡單地繪制
83
92
並獲得相同的效果。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.