000082812 001__ 82812 000082812 005__ 20220422220942.0 000082812 0247_ $$2Laufende Nummer$$a31724 000082812 0247_ $$2URN$$aurn:nbn:de:hbz:82-opus-40977 000082812 0247_ $$2HSB$$a999910238725 000082812 0247_ $$2OPUS$$a4097 000082812 037__ $$aRWTH-CONV-143171 000082812 041__ $$aEnglish 000082812 082__ $$a620 000082812 0847_ $$2msc$$a94A05 * 94A17 * 94A45 * 94A15 000082812 1001_ $$0P:(DE-82)018310$$aBöcherer, Georg$$b0$$eAuthor 000082812 245__ $$aCapacity achieving probabilistic shaping for noisy and noiseless channels$$cGeorg Böcherer$$honline, print 000082812 246_3 $$aKapazitätserreichende probabilistische Kanalanpassung für verrauschte und rauschfreie Kanäle$$yGerman 000082812 260__ $$aAachen$$bPublikationsserver der RWTH Aachen University$$c2012 000082812 300__ $$a145 S. : graph. Darst. 000082812 3367_ $$0PUB:(DE-HGF)11$$2PUB:(DE-HGF)$$aDissertation / PhD Thesis$$bphd$$mphd 000082812 3367_ $$02$$2EndNote$$aThesis 000082812 3367_ $$2DRIVER$$adoctoralThesis 000082812 3367_ $$2BibTeX$$aPHDTHESIS 000082812 3367_ $$2DataCite$$aOutput Types/Dissertation 000082812 3367_ $$2ORCID$$aDISSERTATION 000082812 502__ $$aAachen, Techn. Hochsch., Diss., 2012$$gFak06$$o2012-02-13 000082812 520__ $$aIn Shannon theory, the key step in calculating the capacity of a communication channel is to determine the channel input distribution that maximizes the mutual information between transmitted and received symbols. For many channels, this so called capacity-achieving distribution is not uniform. In digital communication systems, there is a binary interface that separates the system into a source-related part and a channel-related part. A natural question is how the bit stream at the binary interface can be mapped to channel input symbols in such a way that the resulting distribution is close to capacity-achieving. The topic of this thesis is to answer this question. In this thesis, dyadic distributions are considered. Dyadic distributions can be generated by parsing the bit stream at the binary interface by a prefix-free code. A device that implements this procedure is called a prefix-free matcher. In the first part of this thesis, three types of discrete memoryless channels are considered. First, unconstrained channels, second, channels with input symbols of unequal duration, and third, channels with a constraint on the average symbol cost. Both the noiseless and the noisy case are considered. A new algorithm called geometric Huffman coding is proposed. It is shown that this algorithm efficiently finds the optimal prefix-free matcher for the noiseless case. For the noiseless and the noisy case, it is shown that the generated dyadic distributions are asymptotically capacity-achieving when blocks of symbols are jointly generated and when the blocklength goes to infinity. In the second part of the thesis, noiseless channels with memory are considered. For the general setting, a fundamental relation between the combinatorial and the probabilistic notion of capacity is derived. For noiseless channels that are generated by graphs with finitely many states, it is shown that prefix-free matchers can be used to transmit a binary stream over the channel at a rate as close to capacity as desired. For various examples prefix-free matchers achieve higher rates than previously known techniques. The topic of the last part is how prefix-free matchers can be combined with error correction. For the general class of not necessarily binary systematic block codes, analytic formulas for shaping gain and coding gain are derived. The shaping gain determines the performance loss that results from using a distribution different from the capacity-achieving one, and the coding gain quantifies the loss due to sub-optimal codes. The gains are assessed for three modes of operation, namely when none, some, or all symbols are matched to the capacity-achieving distribution by a prefix-free matcher. It is proven that in the latter case, the optimal shaping gain is asymptotically achieved. The results are evaluated for a binary symmetric channel where the input symbols zero and one are of unequal duration. The numerical results reveal that prefix-free matchers in practice allow to operate ldpc codes with a shaping gain that does not degrade capacity.$$leng 000082812 5203_ $$aBei der Berechnung der Kapazität eines Kommunikationskanales nach Shannon muss die Kanaleingangsverteilung bestimmt werden, welche die Transinformation zwischen Kanaleingang und Kanalausgang maximiert. Bei vielen Kanälen ist diese sogenannte kapazitätserreichende Verteilung nicht gleichverteilt. Digitale Kommunikationssysteme werden durch eine binäre Schnittstelle aufgeteilt in einen Teil für die Datenquelle und einen Teil für den Übertragungskanal. Dies wirft die Frage auf wie man die binären Sequenzen an der Schnittstelle so auf Sequenzen von Kanaleingangssymbolen abbilden kann, dass die resultierende Verteilung am Kanaleingang in der Nähe der kapazitätserreichenden Verteilung liegt. Die Beantwortung dieser Frage ist das Thema dieser Arbeit. Es werden dyadische Verteilungen betrachtet, welche erzeugt werden, wenn die binäre Sequenz an der Schnittstelle von einem Präfix-freien Kode geparst wird. Dieses Verfahren wird im Folgenden Präfix-freie Kanalanpassung genannt. Im ersten Teil dieser Arbeit werden drei Arten von diskreten gedächtnislosen Kanälen betrachtet. Erstens Kanäle ohne Nebenbedingungen, zweitens Kanäle mit Eingangssymbolen unterschiedlicher Länge und drittens Kanäle mit eingeschränkten Durchschnittskosten der Kanaleinganssymbole. Sowohl rauschfreie als auch verrauschte Kanäle werden betrachtet. Ein neuer Algorithmus, der Geometrische Huffman-Kode, wird vorgestellt. Es wird gezeigt, dass dieser Algorithmus im rauschfreien Fall die optimale Präfix-freie Kanalanpassung findet. Sowohl für rauschfreie als auch für verrauschte Kanäle wird gezeigt, dass die geometrische Huffman-Kodierung kapazitätserreichend ist, wenn Blöcke von Kanalsymbolen gemeinsam erzeugt werden und die Blocklänge gegen unendlich geht. Im zweiten Teil der Arbeit werden rauschfreie Kanäle mit Gedächtnis betrachtet. Für den allgemeinen Fall wird eine fundamentale Beziehung zwischen kombinatorischer und probabilistischer Kapazität hergeleitet. Für rauschfreie Kanäle, welche von Graphen mit endlich vielen Zuständen erzeugt werden, wird gezeigt, dass unter der Verwendung von Präfix-freier Kanalanpassung jede Rate unterhalb der Kapazität erreicht werden kann. Für verschiedene Beispiele wird gezeigt, dass Präfix-freie Kanalanpassung höhere Raten erreicht als bisher bekannte Verfahren. Der letzte Teil der Arbeit widmet sich der Kombination von Präfix-freier Kanalanpassung und Fehlerkorrektur. Für die allgemeine Klasse (nicht-)binärer Blockkodes werden analytische Ausdrücke für den Anpassungsgewinn und den Kodierungsgewinn hergeleitet. Der Anpassungsgewinn beschreibt den Verlust an Rate, der daher resultiert, dass eine nicht-kapazitätserreichende Verteilung am Kanaleingang verwendet wird. Der Kodierungsgewinn beschreibt den Ratenverlust, welcher von der Verwendung nicht-optimaler fehlerkorrigierender Kodes herrührt. Die Gewinne werden untersucht für drei Konfigurationen, nämlich für nicht-angepasste (gleichverteilte) Kanaleingangsverteilungen, für teilweise angepasste Verteilungen und für vollständig angepasste Verteilungen. Es wird gezeigt, dass im letzteren Fall der optimale Anpassungsgewinn asymptotisch erreicht wird. Simulationsresultate für einen binären symmetrischen Kanal mit Eingangssymbolen unterschiedlicher Länge bestätigen die theoretischen Resultate und zeigen, dass Präfix-freie Kanalanpassung die Verwendung von ldpc-Kodes erlaubt mit einem optimalen Anpassungsgewinn, welcher die Kanalkapazität nicht verringert.$$lger 000082812 591__ $$aGermany 000082812 650_7 $$2SWD$$aKanalkapazität 000082812 650_7 $$2SWD$$aWahrscheinlichkeitsverteilung 000082812 650_7 $$2SWD$$aCodierung 000082812 650_7 $$2SWD$$aEndlicher Automat 000082812 650_7 $$2SWD$$aLow-Density-Parity-Check-Code 000082812 650_7 $$2SWD$$aHuffman-Code 000082812 650_7 $$2SWD$$aKonvexe Optimierung 000082812 653_7 $$aIngenieurwissenschaften 000082812 653_7 $$2ger$$akapazitätserreichende Verteilung 000082812 653_7 $$2ger$$ageometrischer Huffman-Code 000082812 653_7 $$2eng$$achannel capacity 000082812 653_7 $$2eng$$acapacity-achieving distribution 000082812 653_7 $$2eng$$aprobabilistic shaping 000082812 653_7 $$2eng$$ageometric Huffman coding 000082812 653_7 $$2eng$$aconstrained coding 000082812 7001_ $$0P:(DE-82)IDM00567$$aMathar, Rudolf$$b1$$eThesis advisor 000082812 8564_ $$uhttps://publications.rwth-aachen.de/record/82812/files/4097.pdf 000082812 909CO $$ooai:publications.rwth-aachen.de:82812$$pVDB$$pdriver$$purn$$popen_access$$popenaire$$pdnbdelivery 000082812 915__ $$0StatID:(DE-HGF)0510$$2StatID$$aOpenAccess 000082812 9201_ $$0I:(DE-82)613410_20140620$$k613410$$lLehrstuhl und Institut für Theoretische Informationstechnik$$x0 000082812 961__ $$c2014-05-23$$x2012-07-06$$z2012-02-20 000082812 970__ $$aHT017286506 000082812 980__ $$aphd 000082812 980__ $$aI:(DE-82)613410_20140620 000082812 980__ $$aVDB 000082812 980__ $$aUNRESTRICTED 000082812 980__ $$aConvertedRecord 000082812 9801_ $$aFullTexts 000082812 980__ $$aFullTexts