LibreOffice 25.8 Hjælp
LibreOffice Calc benytter som det meste anden regnarkssoftware, de flydende komma matematiske kapaciteter, der er tilgængelige på hardwaren. Forudsat at den meste hardware bruger binær flydende komma-aritmetik med begrænset præcision som defineret i standarden IEEE 754 kan mange decimaltal - herunder nogle så simple som 0,1 - ikke repræsenteres præcist i LibreOffice Calc (der bruger 64-bit dobbelt-præcisionstal internt).
Beregning med de tal resulterer nødvendigvis i afrundingsfejl og de forøges med hver beregning.
Dette er ikke en programfejl, men er forventelige og aktuelt uundgåelige uden anvendelse af komplekse beregninger i softwaren, som ville medføre urimelige nedsættelser af hastigheden, og derfor ikke kommer på tale. Brugerne er nødt til at tage højde for det anvende afrunding og sammenligninger med maskin-epsilon (eller enheds-afrunding) efter behov.
Et eksempel med tal:
| A | |
|---|---|
| 1 | 31000.99 | 
| 2 | 32000.12 | 
| 3 | =A1-A2 | 
Dette vil resultere i -999.129999999997 i A3, i stedet for det forventede -999.13 (det er eventuelt nødvendigt, at du forøger antallet af viste decimalpladser i celleformatet for at se dette).