Объем данных и количество информации. Формула Шеннона.

Введение
Возникновение теории информации как самостоятельной науки связано с идеями кибернетики. Кибернетика изучает в самом общем виде процессы управления, а рациональное управление требует определенной информации, ее получения, хранения, передачи по каналам связи и переработки.
Теория информации представляет собой математическую теорию, посвященную измерению информации, ее потока, «размеров» канала связи и т.п., особенно применительно к радио, телеграфии, телевидению и к другим средствам связи. Первоначально теория была посвящена каналу связи, определяемому длиной волны и частотой, реализация которого была связана с колебаниями воздуха или электромагнитным излучением. Обычно соответствующий процесс был непрерывным, но мог быть и дискретным, когда информация кодировалась, а затем декодировалась. Кроме того, теория информации изучает методы построения кодов, обладающих полезными свойствами.
Основополагающими понятиями теории информации являются информация и мера информации. Подходов к измерению информации существует несколько. Наиболее часто в измерении информации используют синтаксический подход.
Именно поэтому темой нашей работы является объем данных и количество информации, формула Шеннона.
Объект работы: количество информации.
Предмет количественная мера информации.
Целью нашей работы является изучение подходов и правил измерения информации, в частности синтаксической меры, формулы Шеннона.
Задачи:
1. сделать анализ литературы по проблеме исследования.
2. изучить подходы и правила измерения информации, в частности синтаксическую меру, формулу Шеннона.

Содержание
Введение 3
Раздел 1. Информация. Понятие информации. Виды информации 4
1.1. Понятие информации 4
1.2. Виды информации 5
Раздел 2. Измерение информации 6
2.1. Понятие энтропии 7
2.2. Мера Шеннона. Формула Шеннона. 9
2.3. Количество информации 10
Заключение 12
Литература 13

Литература
1. Закорюкин В.Б. Теория и средства передачи информации. Методы и средства обеспечения достоверности передачи информации: Учеб. пособие для студ. вузов, обуч. по направлению подготовки дипломированного специалиста «Информатика и вычислительная техника»/ Московский гос. ин-т радиотехники, электроники и автоматики (технический ун-т). М., 2001. 83с. : рис.
2. Левин М.Г., Дружинина А.Г. Основы теории информации. Учебное пособие Кострома: КГТУ, 2005. 110 с.
3. Лидовский В.В. Теория информации: Уч. пособие. М.: МАТИ, 2002. 120 с.
4. Мишулина О.А. Основные понятия статистической теории информации. Учебное пособие Москва: МИФИ, 2000. 92 с.
5. Прикладная теория информации и кодирования: Конспект лекции/Д. В. Ломакин, А. И. Туркнн; Горькое, политехн. ин-т. Горький, 1988. 52 с.
6. Спиричева Н.Р. Теория информации: конспект лекций по дисциплине «Теория информации» для студентов дистанц. формы обучения специальности 220200 Автоматизир. системы обраб. информ. и упр. Ч. 1/ Н.Р. Спиричева; науч. ред. Л.Г. Доросинский; УГТУ-УПИ. Екатеринбург: УМЦ УПИ, 2001.
7. Спиричева Н.Р. Теория информации: конспект лекций. Ч.1/ Н.Р. Спиричева; науч. ред. Л.Г. Доросинский ; Урал. гос. техн. ун-т УПИ, Ин-т образоват. информ. технологий. Екатеринбург: [УГТУ-УПИ], 2005.
8. Стариченко Б.Е. Теоретические основы информатики: Учеб. пособие/ Б.Е. Стариченко; Урал. гос. пед. ун-т. Каф. информатики и ВТ. Екатеринбург: Б. и., 2000. Библиогр.: с. 200.
9. Теория информации и кодирование/ Б.Б. Самсонов, Е.М. Плохов, А.И. Филоненков, Т.В. Кречет. Ростов н/Д: Феникс, 2002.