Bug in Excel of afrondingsprobleem?

In geval van rekenmachines zou het laatstgenoemde zijn met die meeste cijfers.
Maar in deze situatie was dat vreemde getal oorzaak van mijn eigen fout in de formule.

En uiteraard zit er ook een bug in Excel, want er wordt gewoon automatisch al goed afgerond, totdat je op een getal onder de 10 komt, in alle versies. En dat hoort niet.
Maarja, met dank aan Obelix71 van het andere forum en Eendenteam kwam gelukkig alles snel op z'n pootjes terecht.;)
 
bert50;218435 zei:
Het was 10/3*3-10 sommige gaven 0 als antwoordt en andere gaven 0,00000000001 aan, welke is nu het beste????
Zijn in absolute zin allebei foutief; alhoewel het laatste (0,00000000001) het dichtste bij de juiste uitkomst zal liggen.

Allereerst zijn delen en vermenigvuldigen gelijkwaardig, dus je behoort eerst 10 door 3 te delen en de uitkomst vervolgens met 3 te vermenigvuldigen en als laatste daar weer 10 op in mindering te brengen.

Ergo:

10/3 = 3,3333333333333 (repetent; we kunnen niet het getal 3 voorzien van een diagonaal intikken). Vermenigvuldig je de uitkomst daarvan met 3, dan krijg je dus 9,9999999999999 repetent. Trek je daar 10 van af dan zie je zo dat het antwoord nooit 0 kan zijn, maar 0,00000000000000000000000000000 (hoeveel nullen.....?) en dan als laatste het cijfer 1.

Dat rekenmachines en ook Bill Gates (met zijn Excel) niet goed 10/3*3 uit kunnen rekenen en als antwoord 10 geven doet aan bovenstaande niets af.
 



Oliebollen Hosting Fun Oliebollen

Advertenties

Terug
Bovenaan Onderaan