2.3. Перелік питань з дисципліни "Теорія інформації та кодування"

Тема 1. Форми представлення сигналів.

Предмет теорії інформації, її основні задачі, методи та галузі використання. Загальна характеристика сигналів. Множина і простори сигналів. Метод ортогонального базису. Часова форма представлення сигналу. Дельта-функція. Частотна форма представлення сигналу. Спектри періодичних і неперіодичних сигналів.

Тема 2. Перетворення безперервних сигналів в дискретні.

Дискретизація. Квантування. Теорема Котельнікова. Способи відтворення сигналів. Основні поняття. Інтервал дискретизації. Дискретизація безперервного повідомлення за часом. Засоби встановлення безперервного сигналу. Критерії якості відновлення. Рівномірна дискретизація. Особливості практичного використання теореми Котельникова.

Тема 3. Моделі дискретних і безперервних каналів зв’язку

Стаціонарний канал з пам’яттю та без пам’яті. Подвійний симетричний канал. Канал зі стиранням. Швидкість передачі інформації по дискретному каналу. Пропускна можливість безперервного каналу з перешкодами та без перешкод.

Тема 4. Кодування інформації при передаванні дискретним каналом зв’язку

Системи лічення. Переклад від однієї системи лічення до другої. Подвійний код. Подвійно-десяткові коди. Рефлексні коди. Код Грея. Ефективне кодування. Теорема Шеннона для каналу без перешкод. Код Шеннона-Фано. Код Хаффмена. Теорема Шеннона для каналу з перешкодами. Перешкідостійки коди. Алгебраїчні коди (блочні і безперервні). Надмірність кодів. Кратність похибки. Кодові відстані. Метод максимальної правдоподібності. Дозволені та заборонені кодові комбінації. Геометрична інтерпретація коду. Вектор похибки. Синдром похибки. Код Хеммінга. Ітеративні коди.