Das Ganze hat mit Rundungsfehlern nichts zu tun. Das ist eher die Genauigkeit der Hex-Werte in der Darstellung wie du oben schon selber sehen konntest in der ETS.
Ob du nun 997,08 Pa oder 997,1 Pa nimmst, es wird immer 997,12Pa heraus kommen. Das letzte Bit löst die Nachkommastelle einfach nicht genauer auf.
Kannst ja spasseshalber mal schauen ab wann auf den nächsten krummen Wert springt.
Ob du nun 997,08 Pa oder 997,1 Pa nimmst, es wird immer 997,12Pa heraus kommen. Das letzte Bit löst die Nachkommastelle einfach nicht genauer auf.
Kannst ja spasseshalber mal schauen ab wann auf den nächsten krummen Wert springt.
Kommentar