[callidomus] Mit Items Rechnen Float/Int problem

[heckmannju]

Hi,
ich habe einen Zählerstand von meiner WP der ist z.b. 1000,000 kwh. Für jeden Zählimpuls will ich 0.001 kwh hinzuadieren.

Was ist die Interne representation von einem num? Ich vermute das es ein Float ist. Da wenn ich auf 1000 3 mal 0.001 aufaddiere kommt

WP.WPEnergyTotal = 1000.0029999999999 raus.

Was kann ich machen das hier richtig gerechnet wird?

Zur Zeit sieht mein Codeblock so aus.

cd.WP.WPEnergyTotal( cd.WP.WPEnergyTotal() + 0.001 )

Viele Grüsse
Jürgen

[callidomus]

Hallo Jürgen,

leider ist das 'richtig' gerechnet. https://de.wikipedia.org/wiki/Gleitk...che_Grundlagen

cd.WP.WPEnergyTotal(round(cd.WP.WPEnergyTotal() + 0.001, 3))

Bis bald

Marcus

[heckmannju]

Hi,
wie lang ist den die Mantisse? von einem Num Item?
VG
Jürgen

[callidomus]

Hallo Jürgen,

das ist ein Python Float, wie lange die Mantisse ist, müsste sich über Google herausfinden lassen.

Bis bald

Marcus