[Date Prev][Date Next] [Thread Prev][Thread Next] [Date Index] [Thread Index]

Re: Taschenrechner fuer Konsole



On Wed, Aug 07, 2002 at 16:24:44 +0200, Alexander Weiss wrote:
> 
> * Peter Blancke <blancke@gmx.de> [020807 13:34]:
> > Leider fuehrt die Verwendung der Math-Lib (-l) nicht zur
> > gewuenschten Genauigkeit, die ich mitunter benoetige.
>
> Was für eine Genauigkeit wünscht Du denn?
> 
> > Die Eingabe 
> > 
> >   (2/3)*3
> > 
> > ergibt keinesfalls die gewuenschte 2, sondern statt dessen
> > 1.99999999999999999998
> 
> Und damit eine absolute Genauigkeit von 2*10^-20
> 
> Eine Rechnung mit 32-Bit-Fließkommazahlen, wie sie bei jeder
> Fließkomma-Rechnung Deiner CPU (darf ich einfach mal annehmen)
> gemacht wird, hat eine Genauigkeit von 2,2*10^-16.
> 
> > Oder uebersehe ich den Optimum-Parameter bei BC?
> 
> Ich denke das Problem dürfte nicht die fehlende Genauigkeit
> sein, sondern der Gedanke, dass ja keine einzige Stelle im
> obigen Ergebnis richtig ist. Dabei ist das gar nicht
> schlimm.

Ja, auch. Sicherlich.

Ich hatte mich ein bisschen falsch ausgedrueckt. Ich benutze bc
gerne parallel beim Rechnungsschreiben mit LaTeX, weil ich
wahrscheinlich noch zu dumm bin herauszufinden, wie die einzelnen
Positionen von LaTeX automatisch und korrekt zusammengerechnet
werden. Wird es sicherlich geben.

Wenn ich aber im bc mit scale=2 arbeite und dann 2/3 eingebe, kriege
ich das nicht erwartete Ergebnis 0,66 und hatte bei der
kaufmaennischen Taetigkeit eher auf 0,67 gehofft. Das kann fatal
werden, wenn es um laengere Zahlenschlangen geht und am Ende der
"Pfennig" nicht stimmt.

Will sagen: scale=2 schneidet im kaufmaennisch-unueblichen Sinne
alles nach der zweiten Nachkommastelle ab.

Nichts desto trotz: Jetzt suche ich die LaTeX-
Rechenmaschinenloesung.

Gruss

Peter Blancke

-- 
Nachtwaechter ist der Wahnsinn, weil er wacht...



Reply to: