Problem mit Rasterwert addieren

[blaky]

Habe hier ein merkwürdiges Problem mit der Funktion Rasterwert addieren.

Ich habe einen KO Typ Variant mit InitialWert 15.2 Raster 0.1

2 Visuobjekte ändern diesen KO

1x mit Rasterwert subtrahieren (das funktioniert immer)

1x mit Rasterwert addieren ( dies funktioniert nur bis Raster >= 0.5 und Raster 0.3)

Raster 0.4 geht nur bis 16 hoch

Raster 0.2 und 0.1 geht gar nicht

hab auch schon mit verschiedenen Datentypen probiert..

[gaert]

Stimmt - kann ich nachvollziehen. Vermutlich interne "Rundungsfehler". FLOATs sind immer so 'ne Sache... Ich guck mir das mal an

[gaert]

Krass...:

echo 15.7 / 0.1;
//gibt 157 aus - korrekt...

echo intVal(15.7 / 0.1);
//gibt 156 aus - ääääh...?!?!
//intVal() sollte eigentlich nur die (hier nicht vorhandenen) Nachkommastellen abschneiden... 

Dies wird also eines dieser FLOAT-Phänomene sein - FLOATs werden IEEE-mäßig ja als Konstrukt aus Mantisse/Exponent usw. behandelt. Ich muss wohl intVal() mal ersetzen, denn hier soll diese Funktion eigentlich nur die Nachkommastellen abschneiden...

[gaert]

Ok, ist erledigt. Beim nächsten Update funktioniert's dann wie erwartet!

[blaky]

Super Danke!

[gaert]

Ich danke Dir für den Hinweis

[harryhirsch3]

Hallo zusammen,

ich habe aktuell in etwa das gleiche Problem beim Addieren via Rasterwert. Es scheint auch ein Rundungsfehler zu sein. Im Busmonitor stagniert das Addieren und ich kann nur noch via "Hartem" überschrieben z.B. mit der ETS oder die direkte Konsole in Edomi den Wert ändern (im Beispiel hängt der Wert dann bei 17,89, obwohl es folgerichtig 17,9 sein müsste).
Meine genutzte Edomi Version ist 2.01, aber der Fix aus diesem Thread dürfte ja bereits längst integriert sein ?!

Danke für einen kurzen Hinweis.

Gruß Daniel