Statistische Auswahl von Wortabhängigkeiten in der automatischen Spracherkennung

Martin, Sven Carl; Ney, Hermann

doi:urn:nbn:de:hbz:82-opus-503

Statistische Auswahl von Wortabhängigkeiten in der automatischen Spracherkennung

Martin, Sven Carl (Author)

2000

Verantwortlichkeitsangabevorgelegt von Sven Carl Martin

ImpressumAachen : Publikationsserver der RWTH Aachen University 2000

UmfangXII, 132 S.

Aachen, Techn. Hochsch., Diss., 2000

Genehmigende Fakultät
Fak01

Hauptberichter/Gutachter
Ney, Hermann (Thesis advisor)

Tag der mündlichen Prüfung/Habilitation
2000-02-03

Online
URN: urn:nbn:de:hbz:82-opus-503
URL: https://publications.rwth-aachen.de/record/59767/files/00_41.pdf

Einrichtungen

Fakultät für Mathematik, Informatik und Naturwissenschaften (100000)

Inhaltliche Beschreibung (Schlagwörter)
Informatik (frei) ; Automatische Spracherkennung (frei) ; Wortstellung (frei) ; A-priori-Verteilung (frei) ; Maximum-Likelihood-Schätzung (frei)

Thematische Einordnung (Klassifikation)
DDC: 004

Kurzfassung
Diese Doktorarbeit beschäftigt sich mit dem Einfluß der statistischen Sprachmodellierung auf Perplexität und Wortfehlerrate in der automatischen Spracherkennung. Ein Trigramm-Sprachmodell mit einem Standard-Glättungsverfahren wird um komplexe, dem Stand der Wissenschaft entsprechende Sprachmodellierungstechniken erweitert: Verschiedene Glättungsverfahren werden miteinander verglichen, namentlich linear mit absolute discounting, interpolation mit backing-off, und back-off functions basierend auf relativen Häufigkeiten mit solchen basierend auf singleton events. Der Einfluß komplexer Sprachmodellierungstechniken wird untersucht, namentlich Abstand-Trigramme, sowie Wortklassen, Wortphrasen und Varigramme, die durch Maximum-Likelihood-Kriterien (d.h. Minimierung der Perplexität) automatisch ausgewählt werden. Der Gesamteinfluß der kombinierten Anwendung aller oben genannten Techniken wird bestimmt, im Gegensatz zu den bisher in der Literatur beschriebenen separaten Effekten der einzelnen Methoden. Es werden Perplexitäten auf dem Wall-Street-Journal-Korpus sowie Perplexitäten und Wortfehlerraten auf dem North-American-Business-Korpus mit einem Trainingstext von 240 Millionen Wörtern und dem deutschen Verbmobil-Korpus angegeben.

This PhD thesis studies the overall effect of statistical language modeling on perplexity and word error rate in automatic speech recognition. A trigram language model with a standard smoothing method is extended by complex state-of-the-art language modeling techniques, including: the comparison of different smoothing methods, namely linear vs. absolute discounting, interpolation vs. backing-off, and back-off functions based on relative frequencies vs. singleton events, the effect of complex language model techniques by using distant trigrams and word classes, word phrases and varigrams that are automatically selected using a maximum likelihood criterion (i.e. minimum perplexity), the overall gain of the combined application of the above techniques, as opposed to their separate assessment in past publications, and perplexity results on the Wall Street Journal corpus and perplexity and word error rate results for both the North American Business corpus (NAB) with a training text of about 240 million words and the German Verbmobil corpus.

Fulltext:
PDF
(additional files)