EXCLS 運算有 -0.00

excel -0.00

noway 2021-08-11 19:52:58 ‧ 1017 瀏覽

如附件

於V欄，看到 (0.00) ，負0.00 ，所以用小數點30位去查，發現真的有小數點

但整個SHEET 內，V欄前面的欄位都是SQL 撈下來的，最多到小數點3位

但整個加總，就出現 (0.00) 了

似乎又跟O 欄有關，但實際看，卻又沒有問題

請問這該如何解釋?

謝謝!

japhenchen iT邦超人 1 級 ‧ 2021-08-12 08:24:13 檢舉

資料庫到現在還是會出現近似小數但又無法規整的事，只能怪double跟float，提取資料到非紙本的環境下，還是先round取整或到小數N位吧

noway iT邦研究生 1 級 ‧ 2021-08-12 11:30:01 檢舉

但資料庫跑出來，我拉到小數點30位，他呈現仍只有 1.6600000000000000000000000000000000000000000000。沒看其他小數

直播研討會

{{ item.channelVendor }} {{ item.webinarstarted }} |

直播中

Hankz

iT邦新手 2 級 ‧ 2021-08-12 16:28:50

最佳解答

資料庫或js有時候也會出現浮點數運算的誤差
這份微軟文件也有做說明
官方也建議使用ROUND修正精確度

noway iT邦研究生 1 級 ‧ 2021-08-12 23:04:47 檢舉

謝謝@

立即登入回答

參賽組數

1064 組

團體組數

40 組

累計文章數

22202 篇

完賽人數

602 人

IT邦幫忙