Шоломов Л.А.

Четверг, 16:20,
ауд. 615

Специальный курс для студентов 3-5 курсов, читается в осеннем и весеннем семестрах.

В курсе излагаются классические результаты теории информации, связанные с информационными характеристиками случайных величин и их свойствами, сжатием данных, конструктивными методами помехоустойчивого кодирования, передачей информации при наличии помех. Наряду с ними значительное внимание уделяется новому направлению исследований – теории недоопределенной информации. Рассматривается также подход А.Н. Колмогорова к основаниям теории информации, связывающий информацию и сложность.

Для понимания материала достаточно знания некоторых элементарных фактов теории вероятностей, линейной и общей алгебры. Более углубленные математические сведения (например, элементы теории Галуа) излагаются непосредственно в курсе. Предназначен для студентов, начиная с третьего курса, и аспирантов.

В первую часть курса (осенний семестр) входит изучение информационных характеристик случайных опытов – энтропии, условной энтропии, меры информации, анализ их свойств и соотношений между ними, постановка и решение задачи кодирования дискретных источников, их универсальное кодирование, рассмотрение недоопределенных данных, изучение их информационных свойств, кодирование недоопределеннных источников, изучение преобразований недоопределенных данных и алгоритмов работы с ними.

Во вторую часть курса (весенний семестр) входит изучение теории помехоустойчивого кодирования, рассмотрение линейных и циклических кодов, изложение конструктивных методов построения кодов с хорошими корректирующими свойствами, изучение задачи надежной передачи данных в статистической постановке, рассмотрение характеристик системы передачи информации, доказательство теоремы Шеннона о скорости передачи при наличии помех, изложение алгоритмического подхода А.Н. Колмогорова к введению информационных характеристик индивидуальных последовательностей, сравнение статистического и алгоритмического подходов в применении к полностью определенным и к недоопределенным данным.

http://ndsipu.cmc.msu.ru/courses.php?id=20

Страница курса: http://vmk.somee.com/Details/446