Образовательный портал

Трапезникова Галина Альбертовна, учитель информатики и ИКТ школы №38
Приморского района г. Санкт-Петербурга

Место темы в разделе и в курсе «Информатика и ИКТ»
Тема «Количество информации» изучается в базовом курсе информатики, в 8 классе по учебнику Н.Д. Угриновича в главе 1 «Информация и информационные процессы». На изучение отводится 4 часа. Более глубоко в дальнейшем тема изучается в 10 классе. В 11 классе по данной теме материал прорабатывается во время итогового повторения.
Основные теоретические положения

Увеличение неопределенности знаний

Окружающий нас мир состоит из объектов и явлений природы. В процессе познания окружающего мира человек накапливает информацию в форме знаний (информация не материальна) и может использовать ее далее для решения жизненных задач. Если человек обладает необходимой информацией, то познание мира происходит успешно и он может решить жизненную задачу. Т.е. полученная информация  привела к уменьшению неопределенности наших знаний об окружающем мире. Другими словами можно сказать, что в жизни человека наступает состояние «порядок». В противном случае наступает состояние «хаос» и неопределенность наших знаний об окружающем мире возрастает. Все сказанное можно представить в виде схемы: 

Уменьшение неопределенности знаний

                                                                               
Например, ученик не записал домашнее задание по предмету. Увеличилась неопределенность его знаний об окружающем мире, в жизни у него преобладает хаос. Получение новой информации о домашнем задании (звонок другу, сообщение от друга) приводит к уменьшению неопределенности знаний ученика о том, что задано, в 2 раза. Ведь было два взаимно противоположных варианта ситуации: «записал домашнее задание» и «не записал домашнее задание». В жизни ученика теперь наступает порядок.
Другой пример, Вы подбрасываете монету и загадываете, что выпадет: «орел» или «решка»? Таких взаимно противоположных  и равновероятных вариантов развития ситуации всего 2. Когда выпал «орел», Вы получили одно из двух равновероятных сообщений и неопределенность Вашего знания уменьшилась в 2 раза.
Подход к информации, как мере уменьшения неопределенности знания об окружающем нас мире позволяет количественно измерять информацию. Если сообщения равновероятны, для подсчета полученного количества информации используется формула Р. Хартли, предложенная в1928 г.:
, где N-количество сообщений, k-количество информации.
Иногда формулу Хартли записывают так:
            k=log₂N=log₂(1/р)=-log₂р,
т. к. каждое из Nсобытий имеет равновероятный исход р = 1 / N, то N= 1 / р.
В 1948 г. американский инженер и математик К. Шеннон предложил формулу для вычисления количества информации для событий с различными вероятностями. Если k- количество информации,
         N- количество возможных событий,
         рi - вероятности отдельных событий,
то количество информации для событий с различными вероятностями можно определить по формуле:
            k= - Sum р_i log₂ р_i,где kпринимает значения от 1 до N.
Формулу Хартли можно рассматривать как частный случай формулы Шеннона:
            k= - Sum 1 / N log₂ (1 / N) = log₂ N.
При равновероятных событиях получаемое количество информации максимально.
Сообщение о событии может быть представлено (закодировано) в той или иной знаковой системе (алфавитный подход к определению количества информации). Количество информации, которое содержит сообщение, закодированное с помощью знаковой системы, равно количеству информации, которое несет один знак, умноженному на число знаков в сообщении.
За наименьшую единицу измерения количества информации принят 1 бит. Это количество информации, которое содержит сообщение, уменьшающее неопределенность знаний в 2 раза. Бит (двоичная цифра) может принимать одно из двух противоположных значений: 0 или 1. Эта единица информации была придумана в 1946 году американским ученым-статистиком Д. Тьюки. На практике используются единицы измерения информации большего веса:
1 байт = 8 бит
1 Кб (1 Килобайт) =  2¹⁰ байт =1024 байт (примерно 1 тысяча байт – 10³ байт)
1 Мб (1 Мегабайт) =  2²⁰ байт = 1024 килобайт (примерно 1 миллион байт – 10⁶ байт)
1 Гб (1 Гигабайт) =   2³⁰ байт = 1024 мегабайт (примерно 1 миллиард байт – 10⁹ байт)
1 Тб (1 Терабайт) =    2⁴⁰ байт = 1024 гигабайт (примерно 10¹² байт).
1 Пб (1 Петабайт) =   2⁵⁰ байт = 1024 терабайт (примерно 10¹⁵ байт).
1 Эксабайт =   2⁶⁰ байт = 1024 петабайт (примерно 10¹⁸ байт).
1 Зеттабайт =  2⁷⁰ байт = 1024 эксабайт (примерно 10²¹ байт).
1 Йоттабайт = 2⁸⁰ байт = 1024 зеттабайт (примерно 10²⁴ байт).
Степени двойки (2¹⁰, 2²⁰, 2³⁰ и т.д.) являются точными значениями килобайт, мегабайт, гигабайт. Можно использовать степени числа 10 при переводе из одних единиц измерения информации в другие, но получаться будут уже приблизительные значения вычислений, округленные в сторону уменьшения. Т.е., 2¹⁰ = 1024 байта представляет собою точное значение 1 килобайта, а 10³ = 1000 байт является приблизительным значением 1 килобайта. Разница составляет 24 байта. Такое округление вполне допустимо и является общепринятым. Нужно не забывать только, использовать знак приближения ≈.
Разбор решения задач
Задача 1. Какое количество информации в зрительном сообщении мы получаем о падении на одну из граней симметричной четырехгранной пирамидки? [1]
Решение: пирамидка симметричная четырехгранная, поэтому ее падение на одну из граней – это одно из 4-х равновероятных событий. Можем воспользоваться формулой Хартли. Сделаем подстановку и получим: 4 = 2 k,
22 = 2 k, k= 2 бита.
Задача 2. Какое количество информации в зрительном сообщении мы получаем о падении на одну из граней несимметричной четырехгранной пирамидки? Вероятности событий при этом равны 1/2, 1/4, 1/8 и 1/8.
Решение: Поскольку события не равновероятные, воспользуемся формулой Шеннона.
K = -(1/2.log21/2+1/4.log21/4+1/8.log21/8+1/8.log21/8=1/2+2/4+3/8+3/8=1,75бита
Задача 3. Найти количество информации, которое несет сообщение «информатика» (рассматривать без кавычек), закодированное в символах русского языка.
Решение:  в алфавите русского языка 33 буквы (знака), но букву Ё мы часто заменяем на Е. Поэтому можно считать, что используются 32 буквы. Применяя формулу Хартли, получаем количество информации, которое несет 1 знак.
, 32 = 2k , 24 = 2k , k = 4бита
Теперь подсчитаем количество символов в сообщении: 11 символов. Рассчитываем количество информации, которое несет сообщение «информатика»: 11 . 4 = 44 бита.
Задача 4. Считая, что каждый символ кодируется одним байтом, определите чему равен информационный объем следующего высказывания Рене Декарта:
Я мыслю, следовательно, существую.