Bug: Umwandlung von/nach DPT 5.001 nicht konsistent!

[Robert]

DPT5.001 ist definiert mit einer Auflösung von 0,01
Das sieht mir auf dem Bus auch noch so aus. Im sh.py halt dann leider nicht mehr.
Auch bei den Temperaturen (DPT9) habe ich manchmal mehr Stellen, als die defnierte Resolution von 0,01

Warum braucht man denn da dann ein Round?
Wo kommen die "Mehrstellen" denn her?

Gruß

Wo "definiert"? Quelle?

Wenn 0-100% mit 256 Stufen aufgelöst werden beträgt die Auslösung halt ca. 0,4% (oder eben 0,004). Sieht auch Tapko so: Tools - Tapko

Und bei einem 2 Byte breiten Datenpunkt (DPT 9) wäre das noch trauriger.

[greentux]

Quelle
http://www.knx.org/fileadmin/downloa...07.00%20AS.zip

Dort bei 5.001 Resolution. Ebenso bei DPT9 Resolution. (das scheint ja schon gefixt).

[Robert]

Quelle
http://www.knx.org/fileadmin/downloa...07.00%20AS.zip

Dort bei 5.001 Resolution. Ebenso bei DPT9 Resolution. (das scheint ja schon gefixt).

Seite 26 in DEINEM Dokument gelesen?

5.001
DPT_Scaling
[0…100]
%
≈ 0,4 %
PDT_SCALING (alt.: PDT_UNISIGNED_CHAR)
G

gleiches Seite 33, DPT 9.007 - 0,01%, also 0,0001.

Um bei 5.001 zu bleiben: Was genau wäre jetzt dein Wunschverhalten? Die Resolution ist halt nicht exakt 0,4% - sondern 0,39xxx% - ergo ist der korrekt umgerechnete Wert nach Vorschrift doch auch nicht in Mehrfache von 0,4% zu quetschen. Ich sehe daher an dieser Stelle ein Runden als Fehler an! Und selbst wenn, dann doch nicht auf 0,01 (also ganze %) sondern 0,1%?

[greentux]

Bei 9 ging es mir um 9.001, der ja schon gefixt ist:
9.001 DPT_Value_Temp 0,01 °C

Wunsch wäre, das da max 2 Nachkommastellen ankämen oder?
Wie gesagt, ich sehe halt im RRD scheinbare Genauigkeit Zu lösen wäre es an verschiedenen Stellen, deshalb habe ich ja alle mal angeschaut.

Vl. wärs auch ne Lösung, jedem Item die Anzahl Nachkommstellen mitzugeben (geht heute schon via eval denke ich).

[callidomus]

Hallo,

DPT 5.001 hat tatsächliche ein Auflösung von 0,4 %. Die Prozent (bei der Auflösung) sind hier aber nur als Einheit zu sehen, die sich nicht auf den Wert sondern auf die generellen Wertebereich von 0-100% bezieht.
Daher kann auf eine Nachkommastelle gerundet werden.
Ist in develop für 5 und 5.001 umgesetzt.

EDIT: diese komischen Werte kommen von Fließkomma-Arithmetik. Das ist ein gängiges Programmierproblem wenn man Fließkommanzahlen kodiert bzw. dekodiert.

Bis bald

Marcus