[Soci SLIP] Errore di calcolo

Lucio Crusca lucio a sulweb.org
Mar 11 Nov 2008 00:12:14 CET


Il Monday 10 November 2008 22:10:50 Davide Corio ha scritto:
> Preferisco pensare che sia io a non aver capito qualcosa
Nulla di strano in realtà: i fogli di calcolo rappresentano internamente i 
numeri tramite variabili float in doppia precisione, ovvero rappresentazioni 
IEEE 754 in base 2 a 64 bit:

(continuo da dove ho erroneamente interrotto prima):

http://www.fisica.unina.it/mfa/acust/IEEE_float.htm

quindi abbiamo 52 bit per le cirfe significative. Questo è vero 
indipendentemente dal fatto che i numeri nelle caselle siano interi o in 
virgola. Dato che la prima cifra corrisponde a 2 elevato a 0, ovvero è pari 
al valore 1 sul foglio di excel allegato al precedente messaggio, 
completeremmo le 52 cifre significative alla 51esima riga del foglio di 
excel, ottenendo il primo errore di troncamento alla 52esima riga.

Ora, per quale motivo questo errore di troncamento lo otteniamo alla 51esima 
riga, ovvero una prima di quel che pensavo, mi sfugge, ma sono certo che non 
sia un caso e magari qualche matematico in lista (Alex?) ci sa dare una 
spiegazione rigorosa.

Soluzioni? Nessuna che io sappia.

Lucio.




Maggiori informazioni sulla lista Soci