Graph "Kombinierte Unsicherheiten"

by htw9056, (846 days ago)

Hallo Micha,

kann es sein, dass die graphische Darstellung der kombinierten Unsicherheiten an der Skala nicht korrekt angezeigt wird?
Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.
[image]
LG

locked
911 views

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, (846 days ago) @ htw9056

Hallo,

Im beigefügten Beispiel hat σa=11,00 und an der Skala wird der Wert bei ca. 11,05 angezeigt.

An der Skala in Deinem Bild wird ein Wert von 11,0 angezeigt. Eine zweite Nachkommastelle wird gar nicht ausgegeben. Die Werte sind schließlich gerundet und Du müsstest Dir mehr Nachkommastellen anzeigen lassen.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

locked
955 views

Graph "Kombinierte Unsicherheiten"

by htw9056, (846 days ago) @ Micha

Hier noch ein Bsp. mit der zweiten Nachkommastelle.
Die blaue Linie habe ich eingezeichnet und an der sollte m.M. nach die Funktion verlaufen.
[image]

LG

locked
902 views

Graph "Kombinierte Unsicherheiten"

by Micha ⌂, Bad Vilbel, (846 days ago) @ htw9056

Hallo,

wie ich schon ergänzt hatte in meinem letzten Posting, müsstest Du Dir im Plot einfach mehr Nachkommastellen anzeigen lassen, da die Werte gerundet werden. Ferner ist 0,5 ggf. nicht exakt im Binärsystem abbildbar, sodass dort ggf. ein 0,4999... oder 0.50...1 resultiert.

Viele Grüße
Micha

--
applied-geodesy.org - OpenSource Least-Squares Adjustment Software for Geodetic Sciences

locked
901 views

RSS Feed of thread