Die Ausgleichung der erhobenen Daten in JAG3D erfolgt nach der Methode der kleinsten Verbesserungsquadratsumme im Gauß-Markov-Modell (GMM). Dieses Modell liegt immer dann vor, wenn die Beobachtungen l als Funktion der unbekannten Parameter x dargestellt werden können. Das Gauß-Markov-Modell gilt als Standardmodell in der geodätischen Netzauswertung, da sich alle Beobachtungsgleichungen nach diesem Schema formulieren lassen. Die Zielfunktion lautet
Ω=vTPv=Min
worin v die Verbesserungen und P die Gewichtsmatrix sind. Eine detaillierte Darstellungen des Gauß-Markov-Modell findet sich u.a. bei Jäger et al. (2005).
Im Allgemeinen werden unterschiedliche Beobachtungstypen wie bspw. Strecken und Richtungen gemeinsam in die Ausgleichung als Beobachtungen eingeführt. Diese Beobachtungstypen unterscheiden sich i.d.R. in ihren Genauigkeiten. So sind bei der klassischen Tachymetrie die Winkelmessungen gegenüber der Streckenmessung häufig genauer. Aber auch Beobachtungen gleichen Typs können unterschiedlich genau ausfallen, wenn diese bspw. mit unterschiedlichen Instrumenten oder Verfahren registriert wurden. Das stochastisches Modell hat somit u.a. das Ziel, eine Balance zwischen den unterschiedlichen Beobachtungsgenauigkeiten herzustellen und somit den Einfluss von genaueren Messungen auf das Ausgleichungsergebnis zu erhöhen. Als Maßzahl für die Güte einer Beobachtung wird deren a-priori Standardunsicherheit σ verwendet und in der sogenannten Kovarianzmatrix Cll zusammengefasst. Wird von unabhängigen Beobachtungen ausgegangen, so ist in dieser Matrix lediglich die Hauptdiagonale besetzt.
Cll=(σ210…00σ2i…0⋮0⋱⋮0…0σ2n)
Durch Invertieren der Kovarianzmatrix gelangt man zur o.g. Gewichtsmatrix P. Der vorgezogene Varianzfaktor σ20 ist ein beliebig wählbarer Faktor und kann dazu verwendet werden, den Rechenaufwand zu minimieren. In JAG3D wird der Standardwert σ0=1 verwendet.
Cll=σ20Qll=σ20P−1
Die Matrix Qll entspricht hierbei der Kofaktormatrix. Sie unterscheidet sich von der a-priori Varianz-Kovarianz-Matrix Cll lediglich um den Vorfaktor σ20 und ist mit Cll identisch, wenn σ0=1 gilt.
Neben dem stochastischen Modell existiert das funktionale oder mathematische Modell der Ausgleichung. In diesem wird der lineare bzw. linearisierte Zusammenhang zwischen den (gekürzten) Beobachtungen l und den zu schätzenden (Zuschlägen der) Unbekannten ˆx abgebildet
l+v=ˆl=Aˆx
worin A die Design- oder Jacobimatrix und v die Beobachtungsresiduen sind. Das hier verwendete funktionale Modell setzt voraus, dass jede Beobachtung li als eigenständige Funktion der unbekannten Parameter li=ϕ(ˆx) beschrieben werden kann. In der geodätischen Literatur wird dieses Modell als Gauß-Markov Modell bezeichnet.
Die Normalgleichung ergibt sich zu:
ATPAˆx=ATPl
bzw.
Nˆx=n
mit der Normalgleichungsmatrix
N=ATPA
und dem Absolutgliedvektor
n=ATPl
Durch Auflösen des Normalgleichungssystems nach ˆx ergibt sich der Lösungsvektor der unbekannten Parameter
ˆx=N−1n
welcher aus der lineare Funktion
ˆx=Fl
resultiert, worin F=(ATPA)−1ATP die Funktionalmatrix der linearen Transformation ist.
Die geschätzten Beobachtungsverbesserungen lauten
v=Aˆx−l=(AF−I)l
und lassen sich ebenfalls als lineare Funktion von l darstellen.
Im linearisierten Modell enthält der geschätzte Lösungsvektor der unbekannten Parameter lediglich die Zuschläge zur Entwicklungsstelle x0.
Die Anwendung des Unsicherheitsfortpflanzungsgesetzes liefert neben der Kofaktormatrix der ausgeglichenen Parameter
Qˆxˆx=FQllFT=N−1
auch die Kofaktormatrix der ausgeglichenen Beobachtungen
Qˆlˆl=AQˆxˆxAT
und die Kofaktormatrix der Verbesserungen
Qvv=Qll−Qˆlˆl
Die geschätzten Kovarianzmatrizen für die Unbekannten, die ausgeglichenen Beobachtungen und die Verbesserungen ergeben sich aus der Multiplikation der entsprechenden Kofaktormatrizen mit dem Varianzfaktor σ20 der Gewichtseinheit. Die Schätzung für σ20 wird häufig als a-posteriori Varianzfaktor bezeichnet und ergibt sich aus
ˆσ20=vTPvn−u+d=ΩtrR
worin n der Anzahl der Beobachtungen, u der Anzahl der Unbekannten und d einen möglichen Datumsdefekt beschreiben. Die Matrix R wird Redundanzmatrix genannt.
R=QvvP
Der Gesamtfreiheitsgrad r der Netzausgleichung kann auch aus der Summe der Hauptdiagonalelemente - der sogenannten Spur (engl. Trace) einer Matrix - der Redundanzmatrix R abgeleitet werden, sofern die Beobachtungen unabhängig voneinander sind. Es gilt in diesem Fall r=n−u+d=trR.
Mit Ausnahme von beobachteten Höhenunterschieden sind die Beobachtungsgleichungen für terrestrische Messungen und GNSS-Beobachtungen in der Netzausgleichung nicht-linear. Da der Ausgleichungsalgorithmus – formuliert als Gauß-Markov-Modell – jedoch ein lineares Modell voraussetzt, sind die nicht-linearen Beobachtungsgleichungen zu linearisieren. Hierzu werden die Beobachtungsgleichungen ϕ am Entwicklungspunkt x0 unter Vernachlässigung von Termen höherer Ordnung mittels Taylorreihe entwickelt,
ϕ(x)=ϕ(x0+ˆx)=ϕ(x0)+Aˆx+12H[ˆx⊗ˆx]+...
worin A die Jacobi-Matrix mit den ersten partiellen Ableitungen und H die Hesse-Matrix mit den zweiten partiellen Ableitungen an der Entwicklungsstelle x0 sind und ⊗ den Kroneckerprodukt-Operator symbolisiert.
Diese Vorgehensweise ist zulässig, wenn die Näherungslösung der gesuchten Parameter x0 bereits sehr dicht an der tatsächlichen Lösung von x liegt und somit die Terme höherer Ordnung gegenüber dem linearen und dem konstanten Term vernachlässigt werden können.
ϕ(x)=ϕ(x0+ˆx)≈ϕ(x0)+Aˆx
Die Lösung dieser Gleichung liefert – Konvergenz vorausgesetzt – eine verbesserte Schätzung der Parameter x gegenüber den zuvor gewählten Näherungswerten x0.
x=x0+ˆx
Zur Bestimmung optimaler Parameter x lässt sich somit eine einfache Iterationsvorschrift formulieren: Die Taylorreihenentwicklung der Beobachtungsgleichung ϕ wird solange an der jeweils verbesserten Entwicklungsstelle x0:=x durchgeführt, bis der Zuschlagsvektor (praktisch) ein Nullvektor ist und somit
|x−x0|∞<ε
gilt.
Liegt die erste Näherung bereits sehr dicht am Optimum, so sind nur wenige Iterationsschritte nötig, um eine Lösung zu erzielen. Bei ungünstig gewählten Näherungswerten sind entsprechend mehr Iterationen notwendig. Im ungünstigsten Fall divergiert das Gleichungssystem sogar und liefert eine falsche bzw. unbrauchbare Lösung. Die Güte der Näherungskoordinaten ist somit entscheidend für das Konvergenzverhalten.