Der optische Flussvektor eines sich bewegenden Objekts in einer Videosequenz

In der Robotik und Computer Vision bezeichnet visuelle Odometrie das Verfahren zur Bestimmung der Position und Orientierung eines Roboters oder eines anderen computergestützten Systems durch die Analyse einer Reihe von Kamerabildern, die das System von seiner Umgebung aufgenommen hat. Sie wurde in einer Vielzahl von Roboteranwendungen eingesetzt, beispielsweise bei den Mars-Explorationsrovern . [ 1 ]

Anwendungsgebiete der visuellen Odometrie sind unter anderem Augmented Reality und Robotik. [ 2 ]

Man spricht von visuell-inertialer Odometrie ( VIO ), wenn eine Inertialmesseinheit verwendet wird.

Überblick

In der Navigation nutzt die Odometrie Bewegungsdaten von Aktuatoren, um mithilfe von Geräten wie Drehgebern zur Messung der Radumdrehungen Positionsänderungen im Zeitverlauf zu schätzen. Während traditionelle Odometrieverfahren für viele Rad- oder Kettenfahrzeuge nützlich sind, lassen sie sich nicht auf mobile Roboter mit unkonventionellen Fortbewegungsarten, wie beispielsweise Laufroboter , anwenden . Zudem ist die Odometrie generell ungenau, da Räder auf dem Boden rutschen und so eine ungleichmäßige zurückgelegte Strecke im Vergleich zu den Radumdrehungen erzeugen. Dieser Fehler verstärkt sich auf unebenen Oberflächen. Mit der Zeit werden die Odometrie-Messwerte zunehmend unzuverlässiger, da sich diese Fehler akkumulieren und verstärken.

Visuelle Odometrie ist ein Verfahren zur Ermittlung äquivalenter Odometrieinformationen mithilfe sequenzieller Kamerabilder, um die zurückgelegte Strecke zu schätzen. Sie ermöglicht eine verbesserte Navigationsgenauigkeit bei Robotern und Fahrzeugen, unabhängig von der Art der Fortbewegung und dem Untergrund.

Typen

Es gibt verschiedene Arten von VO.

Monokular und Stereo

Je nach Kameraaufbau kann Videoorthese (VO) in monokulare VO (Einzelkamera) und Stereo-VO (zwei Kameras im Stereoaufbau) unterteilt werden.

VIO wird häufig in kommerziellen Quadcoptern eingesetzt, die eine Lokalisierung in Situationen ohne GPS-Empfang ermöglichen.

Merkmalsbasierte und direkte Methode

Die visuelle Information in der traditionellen Videoanalyse (VO) wird mittels merkmalsbasierter Methoden gewonnen, die Bildmerkmale extrahieren und in der Bildsequenz verfolgen. Neuere Entwicklungen in der VO-Forschung bieten mit der direkten Methode eine Alternative, die die Pixelintensität in der Bildsequenz direkt als visuelle Eingabe nutzt. Es existieren auch Hybridmethoden.

Visuelle Trägheitsodometrie

Wird im VO-System eine Inertialmesseinheit (IMU) verwendet, spricht man üblicherweise von visueller Inertialodometrie (VIO).

Algorithmus

Die meisten bestehenden Ansätze zur visuellen Odometrie basieren auf den folgenden Schritten.

  1. Eingabebilder erfassen: entweder mit Einzelkameras [ 3 ] [ 4 ] , Stereokameras [ 4 ] [ 5 ] oder omnidirektionalen Kameras [ 6 ] [ 7 ] .
  2. Bildkorrektur: Anwendung von Bildverarbeitungstechniken zur Beseitigung von Linsenverzerrungen usw.
  3. Merkmalserkennung : Interessensoperatoren definieren, Merkmale über Frames hinweg abgleichen und ein optisches Flussfeld konstruieren.
    1. Merkmalsextraktion und Korrelation.
    2. Optisches Flussfeld konstruieren ( Lucas-Kanade-Methode ).
  4. Überprüfen Sie die Strömungsfeldvektoren auf mögliche Trackingfehler und entfernen Sie Ausreißer. [ 8 ]
  5. Schätzung der Kamerabewegung aus dem optischen Fluss. [ 9 ] [ 10 ] [ 11 ] [ 12 ]
    1. Option 1: Kalman-Filter zur Aufrechterhaltung der Zustandsverteilungsschätzung.
    2. Option 2: Ermitteln Sie die geometrischen und 3D-Eigenschaften der Merkmale, die eine Kostenfunktion basierend auf dem Reprojektionsfehler zwischen zwei benachbarten Bildern minimieren. Dies kann durch mathematische Minimierung oder Zufallsstichproben erfolgen .
  6. Regelmäßige Aktualisierung der Trackpunkte, um die Abdeckung des gesamten Bildes aufrechtzuerhalten.

Eine Alternative zu merkmalsbasierten Methoden ist die „direkte“ oder erscheinungsbasierte visuelle Odometrie, die einen Fehler direkt im Sensorraum minimiert und somit die Merkmalszuordnung und -extraktion vermeidet. [ 5 ] [ 13 ] [ 14 ]

Eine weitere Methode, die als „Visiodometrie“ bezeichnet wird, schätzt die planaren Rotations- und Translationsverschiebungen zwischen Bildern mithilfe der Phasenkorrelation anstatt durch Merkmalsextraktion. [ 15 ] [ 16 ]

Egomotion

Egomotion-Schätzung mittels Eckenerkennung

Egomotion wird als die dreidimensionale Bewegung einer Kamera innerhalb ihrer Umgebung definiert. [ 17 ] Im Bereich der Computer Vision bezeichnet Egomotion die Schätzung der Kamerabewegung relativ zu einer starren Szene. [ 18 ] Ein Beispiel für die Schätzung von Egomotion wäre die Bestimmung der Position eines fahrenden Autos relativ zu Fahrbahnmarkierungen oder Straßenschildern, die vom Fahrzeug aus beobachtet werden. Die Schätzung von Egomotion ist wichtig für die Navigation autonomer Roboter . [ 19 ]

Überblick

Ziel der Schätzung der Eigenbewegung einer Kamera ist die Bestimmung ihrer dreidimensionalen Bewegung innerhalb der Umgebung anhand einer Bildsequenz. [ 20 ] Die Schätzung der Kamerabewegung in einer Umgebung erfolgt mithilfe visueller Odometrie-Verfahren auf Basis einer Bildsequenz, die von der sich bewegenden Kamera aufgenommen wurde. [ 21 ] Typischerweise wird hierfür Merkmalserkennung eingesetzt , um aus zwei Einzelbildern einer Sequenz einen optischen Fluss zu erstellen [ 17 ], die entweder von einer Einzelkamera oder von Stereokameras erzeugt wurden. [ 21 ] Die Verwendung von Stereobildpaaren für jedes Einzelbild trägt zur Fehlerreduzierung bei und liefert zusätzliche Tiefen- und Skaleninformationen. [ 22 ] [ 23 ]

Im ersten Bild werden Merkmale erkannt und im zweiten Bild abgeglichen. Diese Informationen werden anschließend verwendet, um das optische Flussfeld für die erkannten Merkmale in diesen beiden Bildern zu erstellen. Das optische Flussfeld veranschaulicht, wie sich Merkmale von einem Punkt, dem Expansionsfokus , ausbreiten . Der Expansionsfokus lässt sich aus dem optischen Flussfeld bestimmen und gibt die Bewegungsrichtung der Kamera an, wodurch eine Schätzung der Kamerabewegung ermöglicht wird.

Es gibt auch andere Methoden zur Extraktion von Eigenbewegungsinformationen aus Bildern, darunter eine Methode, die auf Merkmalserkennung und optische Flussfelder verzichtet und direkt die Bildintensitäten nutzt. [ 17 ]

Siehe auch

Referenzen

  1. ^ Maimone, M.; Cheng, Y.; Matthies, L. (2007). „Zwei Jahre visuelle Odometrie auf den Mars-Explorationsrovern“ (PDF) . Journal of Field Robotics . 24 (3): 169–186 . CiteSeerX  10.1.1.104.3110 . doi : 10.1002/rob.20184 . S2CID  17544166. Abgerufen am 10.07.2008 .
  2. ^ „Der TUM VI Benchmark zur Evaluierung der visuell-inertialen Odometrie“ . IEEE Xplore . 06.01.2019 . Abgerufen am 20.12.2025 .
  3. ^ Chhaniyara, Savan; KASPAR ALTHOEFER; LAKMAL D. SENEVIRATNE (2008). „Visuelle Odometrie-Technik mittels kreisförmiger Marker zur Schätzung von Bewegungsparametern“ . Fortschritte in der mobilen Robotik: Tagungsband der elften internationalen Konferenz über Kletter- und Laufroboter und die zugehörigen Technologien für mobile Maschinen, Coimbra, Portugal . Die elfte internationale Konferenz über Kletter- und Laufroboter und die zugehörigen Technologien für mobile Maschinen . Band 11. World Scientific, 2008. Archiviert vom Original am 24.02.2012 . Abgerufen am 22.01.2010 .
  4. ^ a b Nister, D; Naroditsky, O.; Bergen, J (Jan 2004). Visuelle Odometrie . Computer Vision and Pattern Recognition, 2004. CVPR 2004. Vol. 1. pp. I–652 – I–659 Vol.1. doi : 10.1109/CVPR.2004.1315094 .
  5. Comport , AI; Malis, E.; Rives, P. (2010). F. Chaumette; P. Corke; P. Newman (Hrsg.). „Real-time Quadrifocal Visual Odometry“. International Journal of Robotics Research . 29 ( 2–3 ): 245–266 . CiteSeerX 10.1.1.720.3113 . doi : 10.1177/0278364909356601 . S2CID 15139693 .  
  6. ^ Scaramuzza, D.; Siegwart, R. (Oktober 2008). „Erscheinungsgesteuerte monokulare omnidirektionale visuelle Odometrie für Geländefahrzeuge“. IEEE Transactions on Robotics . 24 (5): 1015–1026 . Bibcode : 2008ITRob..24.1015S . doi : 10.1109/TRO.2008.2004490 . hdl : 20.500.11850/14362 . S2CID 13894940 . 
  7. ^ Corke, P.; Strelow, D.; Singh, S. „Omnidirektionale visuelle Odometrie für einen Planetenrover“. Intelligent Robots and Systems, 2004 (IROS 2004). Konferenzband. 2004 IEEE/RSJ International Conference on . Band 4. doi : 10.1109/IROS.2004.1390041 .
  8. Campbell , J.; Sukthankar, R.; Nourbakhsh, I.; Pittsburgh, IR: „Techniken zur Auswertung des optischen Flusses für die visuelle Odometrie in extremem Gelände“. Intelligent Robots and Systems, 2004 (IROS 2004). Konferenzband. 2004 IEEE/RSJ International Conference on . Band 4. doi : 10.1109/IROS.2004.1389991 .
  9. ^ Sunderhauf, N.; Konolige, K.; Lacroix, S.; Protzel, P. (2005). „Visuelle Odometrie mit spärlicher Bündelanpassung an einem autonomen Outdoor-Fahrzeug“. In Levi; Schanz; Lafrenz; Avrutin (Hrsg.). Tagungsband Autonome Mobile Systeme 2005 (PDF) . Reihe Informatik aktuell. Springer Verlag. S.  157–163 . Archiviert vom Original (PDF) am 11.02.2009 . Abgerufen am 10.07.2008 .
  10. ^ Konolige, K.; Agrawal, M.; Bolles, RC; Cowan, C.; Fischler, M.; Gerkey, BP (2008). „Outdoor Mapping and Navigation Using Stereo Vision“. Experimental Robotics . Springer Tracts in Advanced Robotics. Band 39. S.  179–190 . doi : 10.1007/978-3-540-77457-0_17 . ISBN 978-3-540-77456-3Die
  11. ^ Olson, CF; Matthies, L.; Schoppers, M.; Maimone, MW (2002). „Rover navigation using stereo ego-motion“ (PDF) . Robotics and Autonomous Systems . 43 (4): 215–229 . doi : 10.1016/s0921-8890(03)00004-6 . Abgerufen am 6. Juni 2010 .
  12. ^ Cheng, Y.; Maimone, MW; Matthies, L. (2006). „Visuelle Odometrie auf den Mars-Explorationsrovern“. IEEE Robotics and Automation Magazine . 13 (2): 54–62 . CiteSeerX 10.1.1.297.4693 . doi : 10.1109/MRA.2006.1638016 . S2CID 15149330 .  
  13. Engel , Jakob; Schöps, Thomas; Cremers, Daniel (2014). „LSD-SLAM: Large-Scale Direct Monocular SLAM“ (PDF) . In: Fleet D.; Pajdla T.; Schiele B.; Tuytelaars T. (Hrsg.). Computer Vision . European Conference on Computer Vision 2014. Lecture Notes in Computer Science. Band 8690. doi : 10.1007/978-3-319-10605-2_54 .
  14. Engel , Jakob; Sturm, Jürgen; Cremers, Daniel (2013). „Semi-Dense Visual Odometry for a Monocular Camera“ (PDF) . IEEE International Conference on Computer Vision (ICCV) . CiteSeerX 10.1.1.402.6918 . doi : 10.1109/ICCV.2013.183 . 
  15. ^ Zaman, M. (2007). „Hochpräzise relative Lokalisierung mit einer einzelnen Kamera“. Proceedings 2007 IEEE International Conference on Robotics and Automation . S.  3908–3914 . doi : 10.1109/ROBOT.2007.364078 . ISBN 978-1-4244-0602-9Die
  16. ^ Zaman, M. (2007). „Hochauflösende relative Lokalisierung mit zwei Kameras“. Journal of Robotics and Autonomous Systems . 55 (9): 685–692 . doi : 10.1016/j.robot.2007.05.008 .
  17. Irani , M .; Rousso, B.; Peleg, S. (Juni 1994). „ Recovery of Ego-Motion Using Image Stabilization“ (PDF) . IEEE Computer Society Conference on Computer Vision and Pattern Recognition : 21–23 . Abgerufen am 7. Juni 2010 .
  18. ^ Burger, W.; Bhanu, B. (Nov. 1990). „Estimating 3D egomotion from perspective image sequence“. IEEE Transactions on Pattern Analysis and Machine Intelligence . 12 (11): 1040–1058 . doi : 10.1109/34.61704 . S2CID 206418830 . 
  19. ^ Shakernia, O.; Vidal, R.; Shankar, S. (2003). „Omnidirectional Egomotion Estimation from Back-projection Flow“ (PDF) . 2003 Conference on Computer Vision and Pattern Recognition Workshop . Band 7. S. 82. CiteSeerX 10.1.1.5.8127 . doi : 10.1109/CVPRW.2003.10074 . S2CID 5494756. Abgerufen am 7. Juni 2010 .  
  20. ^ Tian, ​​T.; Tomasi, C.; Heeger, D. (1996). „Vergleich von Ansätzen zur Berechnung der Eigenbewegung“ (PDF) . IEEE Computer Society Conference on Computer Vision and Pattern Recognition : 315. Archiviert vom Original (PDF) am 8. August 2008. Abgerufen am 7. Juni 2010 .
  21. ^ a b Milella, A.; Siegwart, R. (Januar 2006). „Stereobasierte Eigenbewegungsschätzung mittels Pixel-Tracking und iterativem Closest Point“ (PDF) . IEEE International Conference on Computer Vision Systems : 21. Archiviert vom Original (PDF) am 17. September 2010. Abgerufen am 7. Juni 2010 .
  22. ^ Olson, CF; Matthies, L.; Schoppers, M.; Maimoneb MW (Juni 2003). „Rover navigation using stereo ego-motion“ (PDF) . Robotics and Autonomous Systems . 43 (9): 215–229 . doi : 10.1016/s0921-8890(03)00004-6 . Abgerufen am 7. Juni 2010 .
  23. ^ Dinesh, Sudin; Koteswara Rao, K.; Unnikrishnan, Manju; Brinda v; Lalithambika vr; Dhekane, MV (2013). „Verbesserungen des visuellen Odometrie-Algorithmus für planetare Erkundungsrover“. 2013 International Conference on Emerging Trends in Communication, Control, Signal Processing and Computing Applications (C2SPCA) . S.  1–6 . doi : 10.1109/C2SPCA.2013.6749359 . ISBN 978-1-4799-1085-4Die