Ankündigung

Einklappen
Keine Ankündigung bisher.

Mit Items Rechnen Float/Int problem

Einklappen
X
 
  • Filter
  • Zeit
  • Anzeigen
Alles löschen
neue Beiträge

    [callidomus] Mit Items Rechnen Float/Int problem

    Hi,
    ich habe einen Zählerstand von meiner WP der ist z.b. 1000,000 kwh. Für jeden Zählimpuls will ich 0.001 kwh hinzuadieren.

    Was ist die Interne representation von einem num? Ich vermute das es ein Float ist. Da wenn ich auf 1000 3 mal 0.001 aufaddiere kommt

    WP.WPEnergyTotal = 1000.0029999999999 raus.

    Was kann ich machen das hier richtig gerechnet wird?

    Zur Zeit sieht mein Codeblock so aus.

    Code:
    cd.WP.WPEnergyTotal( cd.WP.WPEnergyTotal() + 0.001 )
    Viele Grüsse
    Jürgen

    #2
    Hallo Jürgen,

    leider ist das 'richtig' gerechnet. https://de.wikipedia.org/wiki/Gleitk...che_Grundlagen

    Code:
    cd.WP.WPEnergyTotal(round(cd.WP.WPEnergyTotal() + 0.001, 3))
    Bis bald

    Marcus

    Kommentar


      #3
      Hi,
      wie lang ist den die Mantisse? von einem Num Item?
      VG
      Jürgen
      Zuletzt geändert von heckmannju; 10.10.2016, 21:44.

      Kommentar


        #4
        Hallo Jürgen,

        das ist ein Python Float, wie lange die Mantisse ist, müsste sich über Google herausfinden lassen.

        Bis bald

        Marcus

        Kommentar

        Lädt...
        X