[Date Prev][Date Next] [Thread Prev][Thread Next] [Date Index] [Thread Index]

Re: Taschenrechner fuer Konsole



Hi, Peter!

* Peter Blancke <blancke@gmx.de> [020807 13:34]:
> Leider fuehrt die Verwendung der Math-Lib (-l) nicht zur
> gewuenschten Genauigkeit, die ich mitunter benoetige.
Was für eine Genauigkeit wünscht Du denn?

> Die Eingabe 
> 
>   (2/3)*3
> 
> ergibt keinesfalls die gewuenschte 2, sondern statt dessen
> 1.99999999999999999998

Und damit eine absolute Genauigkeit von 2*10^-20

Eine Rechnung mit 32-Bit-Fließkommazahlen, wie sie bei jeder
Fließkomma-Rechnung Deiner CPU (darf ich einfach mal
annehmen) gemacht wird, hat eine Genauigkeit von 2,2*10^-16.

> Oder uebersehe ich den Optimum-Parameter bei BC?

Ich denke das Problem dürfte nicht die fehlende Genauigkeit
sein, sondern der Gedanke, dass ja keine einzige Stelle im
obigen Ergebnis richtig ist. Dabei ist das gar nicht
schlimm.

kleines Beipiel:
((2/3)*3)/7
.28571428571428571428
2/7
.28571428571428571428

Für eine subjektiv (im obigen Sinne) größere Genauigkeit
würde ich empfehlen, das auf 19 Stellen genaue Ergebnis auf
19 oder 18 (wegen Auftretenden Fehlern)  Stellen zu runden.
Für eine wirklich größere Genauigkeit wäre vielleicht ein
Computer-Algebra-System zu überlegen, wie Maple, MuPAD, ...

Gruß,
Alex
-- 
Alexander Weiß, Germany     alex@weissfam.de



Reply to: