[Soci SLIP] Errore di calcolo
Lucio Crusca
lucio a sulweb.org
Mar 11 Nov 2008 00:12:14 CET
Il Monday 10 November 2008 22:10:50 Davide Corio ha scritto:
> Preferisco pensare che sia io a non aver capito qualcosa
Nulla di strano in realtà: i fogli di calcolo rappresentano internamente i
numeri tramite variabili float in doppia precisione, ovvero rappresentazioni
IEEE 754 in base 2 a 64 bit:
(continuo da dove ho erroneamente interrotto prima):
http://www.fisica.unina.it/mfa/acust/IEEE_float.htm
quindi abbiamo 52 bit per le cirfe significative. Questo è vero
indipendentemente dal fatto che i numeri nelle caselle siano interi o in
virgola. Dato che la prima cifra corrisponde a 2 elevato a 0, ovvero è pari
al valore 1 sul foglio di excel allegato al precedente messaggio,
completeremmo le 52 cifre significative alla 51esima riga del foglio di
excel, ottenendo il primo errore di troncamento alla 52esima riga.
Ora, per quale motivo questo errore di troncamento lo otteniamo alla 51esima
riga, ovvero una prima di quel che pensavo, mi sfugge, ma sono certo che non
sia un caso e magari qualche matematico in lista (Alex?) ci sa dare una
spiegazione rigorosa.
Soluzioni? Nessuna che io sappia.
Lucio.
Maggiori informazioni sulla lista
Soci