Hallo Forum,
ich schlage mich grad mit einem Problem der Umwandlung eines Ganzzahl (Integer) zu Fließkomma (floating Point) Raster herum.
Ich hab ein Ganzzahl-DGM mit verschiedenen Einheiten für Lage (Meter) und Höhe (Zentimeter). Nun brauch ich das Raster mit Kommazahlen in m und habe es per Spatial Analyst mit dem WErkzeug float zunächst in ein Komma-Raster verwandelt, dann per Berechung / 100 in die richtige Einheit gebracht. Aber durch die interne "Genauigkeit" (6 Nachkommastellen) der Floating Raster von ArcGIS 9.3 wird aus 45444 z.B. 451,440002. Oder aus 42101 wird 421,019989.
Das sind zwar nur kleine Abweichungen, aber warum gibts da überhaupt Abweichungen? Hat jemand eine Idee?
Grüße
Rena
ich schlage mich grad mit einem Problem der Umwandlung eines Ganzzahl (Integer) zu Fließkomma (floating Point) Raster herum.
Ich hab ein Ganzzahl-DGM mit verschiedenen Einheiten für Lage (Meter) und Höhe (Zentimeter). Nun brauch ich das Raster mit Kommazahlen in m und habe es per Spatial Analyst mit dem WErkzeug float zunächst in ein Komma-Raster verwandelt, dann per Berechung / 100 in die richtige Einheit gebracht. Aber durch die interne "Genauigkeit" (6 Nachkommastellen) der Floating Raster von ArcGIS 9.3 wird aus 45444 z.B. 451,440002. Oder aus 42101 wird 421,019989.
Das sind zwar nur kleine Abweichungen, aber warum gibts da überhaupt Abweichungen? Hat jemand eine Idee?
Grüße
Rena
- Anmelden oder Registieren, um Kommentare verfassen zu können