很明顯，如果 b^2 和 4ac 是浮點數，就會遇到舍入誤差問題。如果 b^2 遠大于 4ac，則 √(b^2 ) =|b|。如果b>0，β 將有解，但 α 的解將為 0，因為其分子中的各項相互抵消。另一方面，如果 b < 0，則 β 的解為 0，α 將有解。這是一種錯誤的設計，因為在浮點計算的作用下，根的值為 0，如果用于后續的設計，將很容易導致錯誤的輸出。

防止這種錯誤抵消的方法之一是將 α 和 β 的分子和分母同時乘以 -b-√(b^2-4ac)，這樣得到：

現在，在 b>0 的情況下，應使用 α’ 和 β 求出兩個根的值。在 b<0 的情況下，應使用 α 和 β’ 求出兩個根的值。在設計中很難察覺到這樣的誤差，原因在于對于整數數據集來說，常規公式會得出正確的結果，但在使用浮點數據的時候，常規公式會讓設計返回錯誤的結果。

另一個有趣的實例是計算三角形面積。根據 Heron 公式，在已知三角形邊長的情況下，三角形的面積 A 可以用下面的公式求出：

這里 a，b 和 c 是三角形的邊長，s= (a+b+c)/2。

對一個一邊的長度約等于另外兩邊長度之和的平三角形而言，有 a≈b+c，隨即有 s≈a。由于兩個相鄰的數值會在 (s-a) 中相減，所以 (s-a) 可能會等于 0。或者，如果 s或者 a 出現舍入誤差，就會導致顯著的 ulps 誤差。因此，最好根據數學家和計算機科學家 William Kahan (2)在 1986 年率先提出的建議，將此公式改寫為下列格式：

我們看看分別用 Heron 的公式和 Kahan 的公式對相同的數值進行計算的結果如何。假定 a=11.0，b=9.0，c=2.04，則正確的 s 值為 11.02，正確的 A 值為1.9994918。但是，在采用 Heron 公式的情況下，計算得出的 s 值為 11.05，只有 3ulps 的誤差，A 的值為3.1945189，出現巨大的 ulps 誤差。在采用 Kahan 的公式的情況下，得出的 A 值為 1.9994918，小數點后七位完全與正確的結果吻合。

處理極小和極大的浮點數
極小的浮點數在相乘后會得出更小的結果。對設計人員來說，這可能會導致系統的下溢問題，最終的結果可能出錯。這個問題在概率處理領域中尤為突出，比如計算語言學和機器學習。任何事件的概率一般都在 0 和 1 之間。能夠得到完美整數結果的公式在處理非常小的概率時往往會導致下溢問題。避免下溢的方法之一是采用指數和對數。

在對很小的浮點數做相乘運算時，采用下面的公式非常有效：

這里指數和對數的底數必須相同。不過需要注意的是，如果a 和 b 都是概率，值都在 0和 1 之間，那么它們的對數會在-∞ 和 0 之間。如果只希望處理正概率，則將概率的對數乘以 -1，就可以正確地解讀結果。采用對數值的另一項優勢在于速度，因為相加比相乘的操作速度更快。

工程人員往往會遇到需要對非常大的連續數進行相乘的情況，比如：

K 的值在某些情況下非常容易溢出。處理這種情況的方法之一是用下式計算 k：

當然，這樣計算相對較為復雜一點，但如果想要保證設計在計算這種極端狀況時不會出錯，這點代價還是值得的。

一些常見的浮點微妙之處
浮點算術并不嚴格遵循整數的數學規律。加法和乘法結合律對浮點數無效，減法和除法也是如此。造成這種情況的原因有兩個。首先在順序變動時會出現下溢或者上溢，其次是舍入誤差問題。請看下面關于浮點數 a，b 和 c的幾個例子。