Das Ganze hat mit Rundungsfehlern nichts zu tun. Das ist eher die Genauigkeit der Hex-Werte in der Darstellung wie du oben schon selber sehen konntest in der ETS.
Ob du nun 997,08 Pa oder 997,1 Pa nimmst, es wird immer 997,12Pa heraus kommen. Das letzte Bit löst die Nachkommastelle einfach nicht genauer auf.
Kannst ja spasseshalber mal schauen ab wann auf den nächsten krummen Wert springt.
Ob du nun 997,08 Pa oder 997,1 Pa nimmst, es wird immer 997,12Pa heraus kommen. Das letzte Bit löst die Nachkommastelle einfach nicht genauer auf.
Kannst ja spasseshalber mal schauen ab wann auf den nächsten krummen Wert springt.


Bei einem Mega vielleicht nicht unbedingt ein Problem, aber lieber gleich richtig lernen als später überall die riesen Arduino Mega verbauen zu müssen weil der Code so riesig wird. Die library ist da zugegeben etwas blöd geschrieben, die Version die ich nutze habe ich mal so verändert, dass sie gar keine Strings mehr nutzt.
Kommentar