Hallo Felix,

das paper habe ich auch schon gefunden und es hat schon sehr geholfen.

Ich habe vorgestern(?) neben den Rohdaten, die uns Prof. Hans Neuner zugeschickt hatte, auch alle Reports von den Ausgleichungsprogrammen, die wir damals erzeugt haben, online gestellt; (Dataset) Comparison of different adjustment software packages. Vielleicht hilft Dir dies auch weiter insbesondere für den Vergleich mit Neptan.

Inzwischen habe ich aber schon meinen Fehler gefunden. Ich habe vergessen den Maßstabsfaktor einzubeziehen. Ich dachte nicht, dass der so einen großen Unterschied ausmacht.

Sehr gut, dass Du hier bereits einen oder den Unterschied gefunden hast. Gerade die Vorverarbeitung, Aufbereitung und gewählte Einstellungen sind häufig für Unterschiede ursächlich und weniger die Ausgleichung selbst. Deswegen sollte man mMn. auch sauber trennen, ob die Ausgleichung unterschiedliche Resultate erzeugt oder ob nur bei der Vorverarbeitung eine andere Herangehensweise vorliegt.

Die .JXL-Messdatei importiere ich über Trimble/Zeiss → JobXML 2D+H. In der Datei habe ich nach horizDistance und auch nach den Horizontaldistanzen gesucht, die in JAG3D auftauchen. Dafür habe ich aber keine Treffer erhalten. Hast du noch eine andere Idee wie die Horizontaldistanz zustande kommt?

Ah, die JobXML Dateien von Trimble hatte ich nicht auf dem Schirm bei meiner letzten Antwort. Du hast recht, hier ist die Sache etwas anders als bei Leica. Bei Leica stehen die horizontalen Strecken bereits in den Rohdatendateien. Diese Strecken sind dann auch schon reduziert bzw. vorverarbeitet entsprechend der bspw. Projektionseinstellungen am Instrument. Bei Trimble ist die Strategie etwas anders. Hier findet man nur die polaren Messungen (Schrägstrecke, Richtung und Zenitwinkel) in den JobXML-Files. Ursprünglich hatte ich daher auch nur diese Messelemente berücksichtigt. Ich glaube Studierende aus Stuttgart hatten dann um eine 2D+H-Variante gebeten, die ähnlich wie bei Leica funktioniert. Bei Trimble kann ich selbst nicht validieren, weil wir an der Hochschule - in dem Bereich wo ich arbeite - keine Instrumente von denen nutzen. Ich bin hier also auf Anwender angewiesen wie Dich, die mir Feedback geben.

Bei JobXML-Dateien muss ich die Reduktion vornehmen. Ich lese folgende Daten (Auszug aus Deiner Datei):

<Circle>
   <HorizontalCircle>45.7737741</HorizontalCircle>
   <VerticalCircle>91.7170479</VerticalCircle>
   <EDMDistance>14.63408</EDMDistance>
   <Face>Face1</Face>
</Circle>

Weiterhin prüfe ich, ob diese Daten noch zu verarbeiten sind. Konkret suche ich die folgenden Tags (Auszug aus Deiner Datei):

<ApplyEarthCurvatureCorrection>true</ApplyEarthCurvatureCorrection>
<ApplyRefractionCorrection>true</ApplyRefractionCorrection>
<ApplyPPMToRawDistances>true</ApplyPPMToRawDistances>

Diesen Tags entnehme ich, welche Reduktionen vom Anwender gewünscht sind, siehe auch die Kommentare in der Schemadatei. In Deinem Fall soll die Erdkrümmungsreduktion, die Refraktionskorrektur und eine Maßstabskorrektur angebracht werden, da alle drei Werte true sind. In einem Raumnetz bringe ich die ersten beiden Korrekturen nicht an, da diese in JAG3D eingestellt werden können und ich verhindern möchte, dass diese versehentlich doppelt berücksichtigt werden. Die Streckenkorrektur erfolgt immer wie nachfolgend gezeigt.

Die Schrägstrecke d ist demnach nicht identisch mit EDMDistance d0, sondern resultiert aus:

d = (d0 * (1.0 + ppm*1E-6)) + prismConstant

worin ppm und prismConstant die entsprechenden Werte aus der Datei sind (Tags: <PPM> und <PrismConstant>)

Entsprechend der o.g. Reduktionen wird nun die 2D-Strecke ermittelt. Zunächst die 2D-Strecke s mittels Zenitwinkel.

s = d * sin(zenith)

Anschließend werden die Korrekturterme noch bestimmt. Für die Refraktion folgt nach Rüeger (1996, S. 98, Gl (7.53)):

cK =  k*d*d / 4 / R * sin(2 * zenith)

und für die Erdkrümmungskorrektur gilt nach Rüeger (1996, S. 98, Gl (7.53))

cR = -d*d / 2 / R * sin(2 * zenith)

sodass die horizontale Strecke final aus

sh = s + cK + cR

folgt. Mit R ist der im Projekt hinterlegte Erdradius bezeichnet.

Beim Ableiten des Höhenunterschiedes, der auch nicht in der Datei steht, wird praktisch analog verfahren.

Ich hoffe, dass hilft Dir weiter und erklärt, warum Du die Werte aus der Datei nicht wiederfindest nach dem Import.

Viele Grüße
Micha