iT邦幫忙

2022 iThome 鐵人賽

DAY 16
0
自我挑戰組

資工捲嬤的日常系列 第 16

Day16 學習筆記: 計算機組織

  • 分享至 

  • xImage
  •  

定點數運算

指用固定整數位數表達分數的格式,屬於實數資料類型中一種。
有時定點數也會要求要有固定的整數位數。
定點數與更複雜的浮點數相對。

  • 在定點數系統中,每個數都有完全相同的數,並且小數點總是在同一個地方。

    ex : 0.23,5.12,9.11

    普通整數 : 2,53,120

  • 在計算機中,二進制點不存儲在任何地方。

定點數有範圍且精準。

  • 定點表示的特徵可以是

    • 可表達數字的範圍

      最大和最小數字之間的距離。

    • 精確度

      數軸上兩個相鄰數字之間的距離。

    • 錯誤

      兩個相鄰數字之差的 1⁄2。

    舉例: 三位數字,小數點從右起兩位。
    範圍:[0.00, 9.99] 精度:0.01 誤差:0.005

    如果總位數有限,則需要在範圍和精度之間進行權衡。

    範圍沒有理由,必須以 0 開頭。

代數的結合律在計算機中並不總是成立

  • 代數結合律:a + (b + c) = (a + b) + c

  • 示例 :

    範圍:[-9, 9] (a, b, c) = (7, 4, -3) =>定點數範圍固定。

    a + (b + c) = 7 + (4 + -3) = 8

    (a + b) + c = (7 + 4) + -3 = 11 + -3 => 11 超出範圍。

    檢測溢出(overflow)發生的地方。 (超出可表示的範圍)

參考資料 :


上一篇
Da15 學習日常 : 計算機組織
下一篇
Day17 學習日常 : 計算機組織
系列文
資工捲嬤的日常30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言