Graph "Kombinierte Unsicherheiten"

by htw9056, (838 days ago)

Hallo Micha,

kann es sein, dass die graphische Darstellung der kombinierten Unsicherheiten an der Skala nicht korrekt angezeigt wird?
Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.
[image]
LG

locked
906 views

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, (838 days ago) @ htw9056

Hallo,

Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.

An der Skala in Deinem Bild wird ein Wert von 11,0 angezeigt. Eine zweite Nachkommastelle wird gar nicht ausgegeben. Die Werte sind schließlich gerundet und Du müsstest Dir mehr Nachkommastellen anzeigen lassen.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

locked
949 views

Graph "Kombinierte Unsicherheiten"

by htw9056, (838 days ago) @ Micha

Hier noch ein Bsp. mit der zweiten Nachkommastelle.
Die blaue Linie habe ich eingezeichnet und an der sollte m.M. nach die Funktion verlaufen.
[image]

LG

locked
897 views

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, (838 days ago) @ htw9056

Hallo,

wie ich schon ergänzt hatte in meinem letzten Posting, müsstest Du Dir im Plot einfach mehr Nachkommastellen anzeigen lassen, da die Werte gerundet werden. Ferner ist 0,5 ggf. nicht exakt im Binärsystem abbildbar, sodass dort ggf. ein 0,4999... oder 0.50...1 resultiert.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

locked
896 views

RSS Feed of thread