Modeling of image variability for recognition

Keysers, Daniel Martin; Ney, Hermann

doi:HT014718008

Modeling of image variability for recognition = Modellierung der Variabilität von Bildern für die Erkennung

Keysers, Daniel Martin^RWTH*

2006

Verantwortlichkeitsangabevorgelegt von Daniel Martin Keysers

ImpressumAachen : Publikationsserver der RWTH Aachen University 2006

UmfangI, 214 S. : Ill., graph. Darst.

Aachen, Techn. Hochsch., Diss., 2006

Genehmigende Fakultät
Fak01

Hauptberichter/Gutachter
Ney, Hermann (Thesis advisor)

Tag der mündlichen Prüfung/Habilitation
2006-03-14

Online
URN: urn:nbn:de:hbz:82-opus-14701
DOI: 10.18154/RWTH-CONV-121694
URL: https://publications.rwth-aachen.de/record/59956/files/59956.pdf

Einrichtungen

Fakultät für Mathematik, Informatik und Naturwissenschaften (100000)

Inhaltliche Beschreibung (Schlagwörter)
Informatik (frei) ; Mustererkennung (frei) ; Bildverarbeitung (frei) ; Bilderkennung (frei) ; Objekterkennung (frei) ; Mustervergleich (frei) ; Handschrifterkennung (frei) ; Ziffernerkennung (frei) ; Bildklassifikation (frei) ; Image Recognition (frei) ; Image Matching (frei) ; Object Recognition (frei) ; Image Deformation Models (frei) ; Tangent Distance (frei)

Thematische Einordnung (Klassifikation)
DDC: 004
ccs: I.4.8 Scen * I.5.4 Comp * I.7.5 Opti

Kurzfassung
In dieser Arbeit werden verschiedene Modelle zur Beschreibung von Variabilität in Bildern für die erscheinungsbasierte Klassifikation von Objekten untersucht.Zunächst werden lineare Variabilitätsmodelle behandelt und ihre Beziehung zu Gaußverteilungen dargestellt. Diese Beziehung erlaubt es, bekannte Schätzverfahren zur Bestimmung der Vektoren, die die Variabilität repräsentieren, einzusetzen.Darüber hinaus wird der Zusammenhang zwischen dem diskriminativen Maximum Entropy-Ansatz und Gaußverteilungen behandelt, der dann verwendet wird um die neuartige Maximum Entropy Linear Discriminant Analysis herzuleiten.Weiterhin werden diskrete Verformungsmodelle der Ordnung null, eins und zwei untersucht, die Bildpixel auf Bildpixel abbilden. Dabei wird die Ordnung der Modelle durch die Art der angesetzten zweidimensionalen Verformungseinschränkungen bestimmt.Es wird erstmals gezeigt, dass die Bestimmung der besten Abbildung zwischen zwei Bildern für das Modell der Ordnung zwei zur Klasse der NP-harten Probleme gehört.Für die diskreten Modelle ist es entscheidend, dass ein geeigneter Kontext der Pixel verwendet wird, um niedrige Fehlerraten zu erreichen. Durch die Hinzunahme von Kontext werden auch mit den weniger komplexen Modellen geringerer Ordnung sehr gute Fehlerraten erreicht.Des Weiteren werden Modelle zur Behandlung von starker Variabilität in der Objekterkennung erörtert, die auf der Verwendung von lokalen Bildteilen basieren, und die in Kombination mit diskriminativen Trainingsverfahren sehr konkurrenzfähige Ergebnisse erlauben.Schließlich wird ein Modell für die holistische Bildanalyse vorgestellt, das es erlaubt, eine visuelle Beschreibung von Objekten zu bestimmen, die in einer gegebenen Menge von Bildern vorhanden sind.Die Anwendung der vorgestellten Methoden wird vor allem für die Klassifikation handgeschriebener Zeichen und die Kategorisierung von medizinischen Bildern untersucht, wobei in beiden Fällen hervorragende Ergebnisse erzielt werden.Insbesondere wird eine Fehlerrate von 0,52% auf der bekannten Datenbank MNIST erzielt und eine von 12,6% auf der Datenbank IRMA-10.000, welche die niedrigste in der 2005 durchgeführten ImageCLEF-Evaluation ist.Es wird außerdem gezeigt, dass die Variabilitätsmodelle auch die Resultate für die erscheinungsbasierte Erkennung von Gesten und Gebärdensprache verbessert, was die breite Anwendbarkeit der beschriebenen Modelle unterstreicht.

This thesis presents the application of different models of image variability to visual recognition problems using the paradigm of appearance-based recognition.We first discuss linear models of variability and relate them to the use of Gaussian distributions. This allows us to use well-understood estimation methods to determine the vectors representing the variability.We also relate the discriminative maximum entropy approach to the Gaussian case and use the relationship to derive the novel maximum entropy linear discriminant analysis.Secondly, we investigate discrete deformation models – that map pixels onto pixels – of order zero, one, and two, where the order is determined by the constraints imposed on the two-dimensional image distortion.We prove for the first time that the determination of the best match for the second order model belongs to the class of NP-hard problems.We show that it is important to include a suitable context for each pixel to achieve low error rates, which is then possible using the less complex models of lower order.We furthermore discuss the use of local patches for visual object categorization as a model allowing high image variability and show how the use of discriminative training leads to very competitive results.Finally, we describe a model for holistic scene analysis that allows us to determine a visual representation of objects present in a set of images.The methods are primarily applied to the tasks of handwritten character recognition and medical image categorization, yielding excellent results in both cases.In particular, we achieve an error rate of 0.52% on the well-known MNIST benchmark and 12.6% on the IRMA-10,000 database, the lowest within the 2005 ImageCLEF evaluation.We show that the models of image variability also improve the recognition performance of appearance-based sign language and gesture recognition systems.This emphasizes the models' broad applicability.

OpenAccess:
PDF
(additional files)