Graph "Kombinierte Unsicherheiten"

by htw9056, Thursday, August 18, 2022, 08:23 (43 days ago)

Hallo Micha,

kann es sein, dass die graphische Darstellung der kombinierten Unsicherheiten an der Skala nicht korrekt angezeigt wird?
Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.
[image]
LG

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, Thursday, August 18, 2022, 08:35 (43 days ago) @ htw9056

Hallo,

Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.

An der Skala in Deinem Bild wird ein Wert von 11,0 angezeigt. Eine zweite Nachkommastelle wird gar nicht ausgegeben. Die Werte sind schließlich gerundet und Du müsstest Dir mehr Nachkommastellen anzeigen lassen.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

Graph "Kombinierte Unsicherheiten"

by htw9056, Thursday, August 18, 2022, 09:20 (43 days ago) @ Micha

Hier noch ein Bsp. mit der zweiten Nachkommastelle.
Die blaue Linie habe ich eingezeichnet und an der sollte m.M. nach die Funktion verlaufen.
[image]

LG

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, Thursday, August 18, 2022, 09:27 (43 days ago) @ htw9056

Hallo,

wie ich schon ergänzt hatte in meinem letzten Posting, müsstest Du Dir im Plot einfach mehr Nachkommastellen anzeigen lassen, da die Werte gerundet werden. Ferner ist 0,5 ggf. nicht exakt im Binärsystem abbildbar, sodass dort ggf. ein 0,4999... oder 0.50...1 resultiert.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

RSS Feed of thread