iT邦幫忙

0

如何提高浮點運算的精度

算法 c++
koishifumo 2021-11-03 13:26:05 ‧ 1271 瀏覽

  • 分享至 

  • xImage

眾所周知C++中的double和float類型是有誤差的,這一點在大量運算時更為明顯
精度不夠的話會導致某些代碼在自動化程式判斷裡面不通過..
有效數字精度怎麼提高啊

登入發表討論
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

1 個回答

5
Ray
iT邦大神 1 級 ‧ 2021-11-03 13:44:47

從 IEEE 754 標準來看為什麼浮點誤差是無法避免的

浮點數會失去精確度的原因

應用C++的string完成高精度加法運算的實例代碼

登入發表回應

我要發表回答

立即登入回答
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 2018鐵人賽 javascript 2017鐵人賽 python windows php c# windows server linux css react 程式設計 vue.js
熱門問題
熱門回答
熱門文章
IT邦幫忙