Спирина, М.С. Дискретная математика

Пусть имеется неизвестное кодовое слово, двоичными симво­ лами которого закодировано сообщение в исходном алфавите. При определении загаданного слова задаем уточняющие вопросы. На­ пример, на вопрос: «В кодовом слове первая цифра 1?» — возмож­ ный ответ «Да» или «Нет» однозначно определяет первую цифру кодового слова. Аналогично определяются и другие символы этого кодового слова, соответствующего неизвестному сообщению. По­ этому каждый двоичный код в «-буквенном алфавите соответствует определенному методу установления неизвестных символов в этом алфавите с помощью уточняющих вопросов. Итак, выбор кодов зависит от различных обстоятельств: • удобство процесса передачи информации; • удобство восприятия информации; • необходимость обеспечения максимальной пропускной спо­ собности канала связи; • качественность характеристик кодирования (простота или однозначность кодирования и др.); • потребность в помехоустойчивом кодировании. Теория кодирования исследует проблемы оптимального соче­ тания вопросов экономичности и надежности процесса передачи информации. Так, защита информации от постороннего вмеша­ тельства ведет к увеличению ее объема за счет ввода специальных шифров, паролей, ключей и т.д ., а увеличение объема замедляет работу с информацией. Помехоустойчивое кодирование. Кодирование само по себе не гарантирует 100 %-ной защиты при передаче информации. Иска­ жение информации может происходить по различным причинам от помех или шумов, которые могут быть вызваны различными обстоятельствами, такими, как неисправность ЭВМ, отклонение от стандартов напряжения сети или влажности помещения, вне­ шние помехи и др. Поэтому одной из важнейших проблем теорий кодирования является проблема обнаружения и исправления ошибок, возника­ ющих при передаче информации. Различают три вида ошибок, возникающих по различным причинам: погрешности в данных, методические погрешности и неисправности в работе ЭВМ. Ошиб­ ки первого и второго вида система контроля не сможет исправить самостоятельно, их надо учесть заранее. Помехами в канале связи называется потеря информации меж­ ду входом (Хтр) и выходом (Хои1), свазанная с самим каналом. Пусть одним множеством ( А ) является вход (Xinp), его мощность Н(Хтр) — информация на входе, а другим (В) — выход (Хош) (см. рис. 1.17, а). Тогда их пересечение X jnpП Хош можно отождествить со взаимной информацией I{Xinp, Хош). Чем оно ближе к самим мно­ жествам XinpnX 0U„ тем лучше передался сигнал. Один из остатков — множество Xinp\X 0UI — отождествляется с потерей информации за 317