Discussione:
Discordanza valori numerici
(troppo vecchio per rispondere)
Just Time
2019-06-01 22:44:16 UTC
Permalink
E' una vita che sviluppo software nel linguaggio VISUAL STUDIO,
compatibile col sistema operativo WINDOWS XP. Il suddetto linguaggio
permette di generare sorgenti (finestre) perfettamente compatibili con
Windows (oggetti come caselle testo o pulsanti, cicli iterativi come FOR
..NEXT, WHILE.....WEND, IF .... THEN, ecc.).
Ebbene, cosa mi capita?
In un software ordino allo stesso di fornirmi il valor medio fra i due
seguenti: 71,092; 71,269 (71,092 + 71,269) / 2.
Il software mi restituisce questo risultato:
71,25 senza usare il metodo FORMAT (numero di cifre decimali)
71,250 usando FORMAT(Numero,"#.000").

La calcolatrice mi restituisce invece: 71,1805

Come si spiega?
--
CobraOne
Just Time
2019-06-01 23:05:57 UTC
Permalink
Post by Just Time
E' una vita che sviluppo software nel linguaggio VISUAL STUDIO,
compatibile col sistema operativo WINDOWS XP. Il suddetto linguaggio
permette di generare sorgenti (finestre) perfettamente compatibili con
Windows (oggetti come caselle testo o pulsanti, cicli iterativi come FOR
...NEXT, WHILE.....WEND, IF .... THEN, ecc.).
Ebbene, cosa mi capita?
In un software ordino allo stesso di fornirmi il valor medio fra i due
seguenti: 71,092; 71,269 (71,092 + 71,269) / 2.
71,25 senza usare il metodo FORMAT (numero di cifre decimali)
71,250 usando FORMAT(Numero,"#.000").
La calcolatrice mi restituisce invece: 71,1805
Come si spiega?
Tutto ritirato: Nel codice di programma, invece di coinvolgere il DATA
CONTROL Data3, avevo per errore mandato in campo il DATA CONTROL Data1,
che gestisce un'altro file del medesimo database. Ora i risultati
collimano perfettamente.
--
CobraOne
Loading...