Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi

50 23

Proje Grubu: EEEAG Sayfa Sayısı: 33 Proje No: 119E053 Proje Bitiş Tarihi: 15.02.2022 Metin Dili: Türkçe İndeks Tarihi: 12-10-2022

Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi

Öz:
Augustin bilgi ölçüleri ve bunların kanal kodlaması problemindeki optimal performansı karakterize etmekte kullanımı dört problem üzerinden incelenmistir. Memoryless kanallarda constant composition kodlar için kodun empirik dagılımının mutual informationı kodun hızından yüksek oldugu durumlarda rafine küre sıkıstırma sınır ispatlanmıstır. Ispat farklı codeswordlere karsılık gelen output dagılımları ile Augustin ortalamasının çarpımı ile elde edilen output dagılımı arasındaki hypothesis testing problemi için egiklik parametresinin kodun haberlesme hızı tarafından belirlenen bir degerinde Berry- Esseen teoreminin kullanılması fikrine dayanmaktadır. Yöntemde küçük degisiklikler yaparak rafine küre sıkıstırma sınırı Renyi-simetrik kanallar ve Gauss kanalları için de ispatlanmıstır. Memoryless kanallarda constant composition kodlar için kodun empirik dagılımının mutual informationı kodun hızından düsük oldugu durumlarda daha önce bilinen tüm sonuçları iyilestiren bir rafine strong converse sınırı ispatlanmıstır. Küçük degisikliklerle rafine strong converse sınırı Renyi-simetrik kanallarda ve Gauss kanallarda da ispatlanabilmektedir. Alıcıda kanal durum bilgisi olan hızlı sönümlü kanallar için sönümlü kanalın egik kanalının egik bir kanal durum dagılımı ile verili bir kanal durumunun egik kanalının çarpımı olarak ifade edilebilmesi için gerekli ve yeterli olan bir kosul belirlendi. Input dagılımı ve kanal ile ilgili sıkça kullanılan tüm continuous modellerce saglanan hipotezler altında Augustin ortalamasının varlıgı ve tekligi kanıtlandı, Augustin ortalaması Augustin operatorünün sabit nokta olarak karakterize edildi.
Anahtar Kelime: Augustin bilgisi/ortalaması/kapasitesi/merkezi küre sıkıştırma sınırı/üssü stong converse sınırı

Konular: Mühendislik, Elektrik ve Elektronik

-

Öz:
Augustin information measures and their use in characterizing the performance of optimal performance in channel coding problem is investigated through four problems. For constant composition codes on stationary memoryless channels with a rate less than the mutual information of corresponding to the composition of the codes a refined sphere packing bound is derived. Derivation employs the Berry-Esseen theorem in the hypothesis testing problem between the output distribution corresponding to different codeswords and the product distribution corresponding to the Augustin mean, at a tilting parameter value determined by the rate of the code. With minor modifications refined sphere packing bounds are derived for codes on Renyi?symmetric channels and Gaussian channels. For constant composition codes on stationary memoryless channels with a rate greater than the mutual information of corresponding to the composition of the codes a refined strong converse bound is derived, which improves up on all the previously known results. With minor modifications refined strong converse bounds can be derived for codes on Renyi?symmetric channels and Gaussian channels. For fast fading channels with channel state information at the receiver a necessary and sufficient condition is determined for the tilted channel of the fading channel be the product of a tilted distribution of the channel state and the tilted channel corresponding to the given channel state. The existence of a unique Augustin mean is proved and it is characterized as fixed point of the Augustin operator under rather mild hypothesis on input measures and channels that are satisfied by all of the commonly used continuous models.
Anahtar Kelime:

Konular: Mühendislik, Elektrik ve Elektronik
Erişim Türü: Erişime Açık
  • Altug, Y., & Wagner, A. B. 2014a. “Refinement of the Random Coding Bound”. IEEE Transactions on Information Theory, 60(10), 6005–6023.
  • Altug, Y., & Wagner, A. B. 2014b. “Refinement of the Sphere-Packing Bound: Asymmetric Channels”. IEEE Transactions on Information Theory, 60(3), 1592–1614.
  • Altug, Y., & Wagner, A. B. 2021. “On Exact Asymptotics of the Error Probability in Channel Coding: Symmetric Channels”. IEEE Transactions on Information Theory, 67(2), 844–868.
  • Arimoto, S. 1973. “On the converse to the coding theorem for discrete memoryless channels (Corresp.)”. IEEE Transactions on Information Theory, 19(3), 357–359.
  • Augustin, U. 1969. “Error estimates for low rate codes”. Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete, 14(1), 61–88.
  • Augustin, U. 1978. Noisy Channels. Habilitation thesis, Universität Erlangen-Nürnberg.
  • Bahadur, R. R., & Rao, R. R. 1960. “On Deviations of the Sample Mean”. The Annals of Mathematical Statistics, 31(4), 1015–1027.
  • Bogachev, V. I. 2007. Measure Theory. Berlin Heidelberg: Springer-Verlag.
  • Cheng, H.-C., & Nakiboglu, B. 2020. “Refined Strong Converse for the Constant Composition Codes”. In 2020 IEEE International Symposium on Information Theory (ISIT), (pp. 2149–2154).
  • Cheng, H.-C., & Nakiboglu, B. 2021. “On the Existence of the Augustin Mean”. In 2021 IEEE Information Theory Workshop (ITW), (pp. 1–6).
  • Csiszár, I. 1995. “Generalized cutoff rates and Rényi’s information measures”. IEEE Transactions on Information Theory, 41(1), 26–34.
  • Csiszár, I., & Körner, J. 2011. Information theory: coding theorems for discrete memoryless systems. Cambridge, UK: Cambridge University Press.
  • Csiszár, I., & Longo, G. 1971. “On the error exponent for source coding and for testing simple statistical hypotheses”. Studia Scientiarum Mathematicarum Hungarica, 6, 181–191.
  • Dobrushin, R. 1962. “Asymptotic Estimates of the Probability of Error for Transmission of Messages over a Discrete Memoryless Communication Channel with a Symmetric Transition Probability Matrix”. Theory of Probability & Its Applications, 7(3), 270–300.
  • Dueck, G., & Korner, J. 1979. “Reliability function of a discrete memoryless channel at rates above capacity (Corresp.)”. IEEE Transactions on Information Theory, 25(1), 82–85.
  • Ebert, P. M. 1966. Error Bounds For Parallel Communication Channels. Technical report 448, Research Laboratory of Electronics at Massachusetts Institute of Technology, Cambridge, MA. (http: //hdl.handle.net/1721.1/4295).
  • Elias, P. 1955. “Coding For Two Noisy Channels”. In Proceedings of Third London Symposium of Information Theory, (pp. 61–74). London: Butterworth Scientific.
  • Gallager, R. G. 1965. “A simple derivation of the coding theorem and some applications”. IEEE Transactions on Information Theory, 11(1), 3–18.
  • Haroutunian, E. A. 1968. “Bounds for the Exponent of the Probability of Error for a Semicontinuous Memoryless Channel”. Problems of Information Transmission, 4(4), 29–39.
  • Hayashi, M. 2009. “Information Spectrum Approach to Second-Order Coding Rate in Channel Coding”. IEEE Transactions on Information Theory, 55(11), 4947–4966.
  • Mosonyi, M., & Ogawa, T. 2021. “Divergence Radii and the Strong Converse Exponent of Classical-Quantum Channel Coding With Constant Compositions”. IEEE Transactions on Information Theory, 67(3), 1668– 1698.
  • Moulin, P. 2017. “The Log-Volume of Optimal Codes for Memoryless Channels, Asymptotically Within a Few Nats”. IEEE Transactions on Information Theory, 63(4), 2278–2313.
  • Nakiboglu, B. 2019a. “The Augustin Capacity and Center”. Problems of Information Transmission, 55(4), 299–342.
  • Nakiboglu, B. 2019b. “The Rényi Capacity and Center”. IEEE Transactions on Information Theory, 65(2), 841–860.
  • Nakiboglu, B. 2020a. “A simple derivation of the refined sphere packing bound under certain symmetry hypotheses”. Turkish Journal Of Mathematics, 44(3), 919–948.
  • Nakiboglu, B. 2020b. “The Sphere Packing Bound for Memoryless Channels”. Problems of Information Transmission, 56(3), 201–244.
  • Oohama, Y. 2017. “The optimal exponent function for the additive white Gaussian noise channel at rates above the capacity”. In 2017 IEEE International Symposium on Information Theory (ISIT), (pp. 1053– 1057). Aachen, Germany.
  • Polyanskiy, Y., Poor, H. V., & Verdú, S. 2010. “Channel Coding Rate in the Finite Blocklength Regime”. IEEE Transactions on Information Theory, 56(5), 2307–2359.
  • Richters, J. S. 1967. Communication over fading dispersive channels. Technical report 464, Research Laboratory of Electronics at Massachusetts Institute of Technology, Cambridge, MA. (http://hdl.handle. net/1721.1/4279).
  • Shannon, C. E. 1948. “A mathematical theory of communication”. Bell System Technical Journal, The, 27(3 and 4), 379–423 and 623–656.
  • Shannon, C. E. 1959. “Probability of error for optimal codes in a Gaussian channel”. The Bell System Technical Journal, 38(3), 611–656.
  • Shannon, C. E., Gallager, R. G., & Berlekamp, E. R. 1967a. “Lower bounds to error probability for coding on discrete memoryless channels. I”. Information and Control, 10(1), 65–103.
  • Shannon, C. E., Gallager, R. G., & Berlekamp, E. R. 1967b. “Lower bounds to error probability for coding on discrete memoryless channels. II”. Information and Control, 10(5), 522–552.
  • Sheverdyaev, A. Y. 1982. “Lower bound for error probability in a discrete memoryless channel with feedback”. Problems of Information Transmission, 18(4), 5–15.
  • Shin, H., & Win, M. Z. 2009. “Gallager’s exponent for MIMO channels: a reliability-rate tradeoff”. IEEE Transactions on Communications, 57(4), 972–985.
  • Sibson, R. 1969. “Information radius”. Zeitschrift für Wahrscheinlichkeitstheorie und verwandte Gebiete, 14(2), 149–160.
  • Strassen, V. 1962. “Asymptotische abschätzungen in Shannons Informationstheorie”. In Trans. Third Prague Conf. Inf. Theory, (pp. 689–723).
  • Tomamichel, M., & Tan, V. Y. F. 2013. “A Tight Upper Bound for the Third-Order Asymptotics for Most Discrete Memoryless Channels”. IEEE Transactions on Information Theory, 59(11), 7041–7051.
  • Vazquez-Vilar, G. 2021. “Error Probability Bounds for Gaussian Channels Under Maximal and Average Power Constraints”. IEEE Transactions on Information Theory, 67(6), 3965–3985.
  • Vazquez-Vilar, G., Fabregas, A. G. i., Koch, T., & Lancho, A. 2018. “Saddlepoint Approximation of the Error Probability of Binary Hypothesis Testing”. In 2018 IEEE International Symposium on Information Theory (ISIT), (pp. 2306–2310).
  • Verdú, S. 2021. “Error Exponents and -Mutual Information”. Entropy, 23(2).
  • Wolfowitz, J. 1957. “The coding of messages subject to chance errors”. Illinois Journal of Mathematics, 1(4), 591–606.
  • Wyner, A. D. 1988. “Capacity and error exponent for the direct detection photon channel. I”. IEEE Transactions on Information Theory, 34(6), 1449–1461.
  • Yıldız, M. F., & Nakiboglu, B. 2022. “Augustin Information Measures on Fading Channels Under Certain Symmetry Hypothesis”. submitted to 2022 IEEE International Symposium on Information Theory (ISIT). Proje Sonuç Raporu 23
  • Zhang, J., Matthaiou, M., Karagiannidis, G. K., Wang, H., & Tan, Z. 2013. “Gallager’s Exponent Analysis of STBC MIMO Systems over 􀀀 and 􀀀 Fading Channels”. IEEE Transactions on Communications, 61(3), 1028–1039.
APA NAKİBOĞLU B (2022). Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. , 0 - 33.
Chicago NAKİBOĞLU Barış Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. (2022): 0 - 33.
MLA NAKİBOĞLU Barış Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. , 2022, ss.0 - 33.
AMA NAKİBOĞLU B Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. . 2022; 0 - 33.
Vancouver NAKİBOĞLU B Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. . 2022; 0 - 33.
IEEE NAKİBOĞLU B "Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi." , ss.0 - 33, 2022.
ISNAD NAKİBOĞLU, Barış. "Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi". (2022), 0-33.
APA NAKİBOĞLU B (2022). Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. , 0 - 33.
Chicago NAKİBOĞLU Barış Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. (2022): 0 - 33.
MLA NAKİBOĞLU Barış Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. , 2022, ss.0 - 33.
AMA NAKİBOĞLU B Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. . 2022; 0 - 33.
Vancouver NAKİBOĞLU B Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi. . 2022; 0 - 33.
IEEE NAKİBOĞLU B "Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi." , ss.0 - 33, 2022.
ISNAD NAKİBOĞLU, Barış. "Renyi/Augustin Bilgi Ölçüleri Ve Küre Sıkıstırma Sınırı Için Augustin Yöntemi". (2022), 0-33.