Министерство образования Нижегородской области ГБОУ СПО «Дзержинский химический техникум имени Красной Армии» Учебный элемент по проведению практической работы по дисциплине «Основы теории информации» по теме: «Измерение количества информации» Специальность: Код: «Компьютерные сети» 230111 2012 г. Учебный элемент по проведению практической работы по дисциплине «Основы теории информации» Наименование темы: Измерение количества информации Специальность: «Компьютерные сети» Код: 230111 Составитель: Ермохина Ю.Г. Рецензенты: Никитин Е.В. Преподаватель информационных дисциплин. ГБОУ СПО «Дзержинский химический техникум им. Красной Армии» Преподаватель информационных дисциплин. ГБОУ СПО «Дзержинский химический техникум им. Красной Армии» Содержание 1. Титульный лист 2. Предисловие 3. Учебный элемент по проведению практической работы 3.1. Наименование темы 3.2. Цель 3.3. Необходимое оборудование, материалы и вспомогательные средства 3.4. Сопутствующие учебные элементы и пособия 3.5. Деятельность учащихся 3.6. «Входной» контроль 3.7. Пояснения к работе 3.8. «Текущий» контроль 3.9. Практическое задание 3.10. «Выходной» контроль Предисловие Предлагаемый учебный элемент предназначен для студентов II курса специальности «Компьютерные сети» как учебный материал для самостоятельного изучения темы «Измерение количества информации». Объем работ на овладение учебным элементом рассчитан на двухчасовое занятие. Изучив данный элемент, студент, приобретает знания и умения необходимые для измерения количества информации различными подходами. Учебный элемент по проведению практической работы Наименование темы: Измерение количества информации Цели: Изучив данный элемент, Вы сможете: измерять количество информации алфавитным подходом; измерять количество информации содержательным подходом. Необходимое оборудование, материалы и вспомогательные средства Наименование Количество на 1 человека Комплект заданий Таблица с единицами измерения информации 1 1 Сопутствующие учебные элементы и пособия «Правила работы в кабинете информатики: общие положения» «Журнал по технике безопасности при работе с компьютером» Деятельность учащихся 1. Учащиеся знакомятся с темой практического занятия. 2. Перед началом работы, учащиеся выполняют задания из раздела «входной» контроль. 3. После сдачи «входного» контроля, учащиеся знакомятся с теоретическими основами раздела Пояснения к работе. 4. После освоения теоретических основ, переходят к выполнению заданий практической работы. 5. Отчет по выполнению данной работы сдается в виде ответов на вопросы из раздела «Выходной» контроль. «Входной» контроль Выполнить задание в тетради. Ответьте на следующие вопросы: Основные подходы для измерения количества информации. Формула для вычисления количества информации. Формула Шеннона. Формула Хартли. Пояснения к работе Количество информации можно рассматривать как меру уменьшения неопределенности знания при получении информационных сообщений. Содержательный подход. Согласно Шеннону, информативность сообщения характеризуется содержащейся в нем полезной информацией — той частью сообщения, которая снимает полностью или уменьшает неопределенность какой-либо ситуации. По Шеннону, информация — уменьшение неопределенности наших знаний. Алфавитный подход. Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита. Единицы измерения информации. Как уже было сказано, основная единица измерения информации — бит. 8 бит составляют 1 байт. Наряду с байтами для измерения количества информации используются более крупные единицы: 1 Кбайт (один килобайт) = 210 байт = 1024 байта; 1 Мбайт (один мегабайт) = 210 Кбайт = 1024 Кбайта; 1 Гбайт (один гигабайт) = 210 Мбайт = 1024 Мбайта. В последнее время в связи с увеличением объёмов обрабатываемой информации входят в употребление такие производные единицы, как: 1 Терабайт (Тб) = 1024 Гбайта = 240 байта, 1 Петабайт (Пб) = 1024 Тбайта = 250 байта. Формулы Хартли и Шеннона. У куба 6 граней, значит требуется решить показательное уравнение 2 I =6. Это можно сделать, используя понятие логарифма. Напомню, что логарифмом называют показатель степени I, в которую нужно возвести основание логарифма (2) чтобы получить заданное число N. Log26 ≈2,6 бит. Значит за один бросок мы получим 2, 6 бит информации. 1. Для равновероятных событий расчетная формула количества информации имеет вид: N=2I или I =log2 N (формула оценки сообщений предложена в 1928 году Р. Хартли). 2. Иногда формула Хартли записывается иначе. Так как наступление каждого из N возможных событий имеет одинаковую вероятность P=1/N, то N = 1/P и формула имеет вид: I =log2 (1/P)= - log2 (P) 3. Существуют множества ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета не симметрична (одна сторона тяжелее другой), то при её бросании вероятности выпадения «орла» и «решки» будут различаться. Формулу для вычисления количества информации в случае различных вероятностей событий предложил К.Шеннон в 1948 году. В этом случае количество информации определяется по формуле: N I pi log 2 pi , где I –количество информации, N –количество возможных i 1 событий, pi –вероятности отдельных событий. Вероятность события pi =1/N. Поясним формулу на примере: Пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны: P1 =1/2 P2 =1/4 P3 = 1/8 P4 =1/8 Тогда, количество информации, которое мы получим после реализации одного из событий можно рассчитать по формуле: I= - (1/2•log21/2 + 1/4•log21/4 + 1/8•log21/8 + 1/8•log21/8) = (1/2 + 2/4 + 3/8 + 3/8) битов =14/8 битов 1,75 бита. «Текущий» контроль Преподаватель наглядно смотрит за выполнением практической работы учащихся. Практическое задание Задача 1( №2.7 практикум Угринович стр.37) Заполнить пропуски числами: Г)__Гб=1536 Мб=__Кбайт Д) 512 Кб=2_ байт=2_ бит Задача 2 (№2.8 ) Найти х из следующих соотношений: а)16х бит=32 Мб б) 8х Кб=16 Гб Задача 3 (№2.10) Пользователь компьютера, хорошо владеющий навыками ввода информации с клавиатуры может вводить в минуту 100 знаков. Мощность алфавита, используемого в компьютере равна 256. Какое количество информации в байтах может ввести пользователь за 1 минуту. Задача 4. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 15)? Задача 5. Группа школьников пришла в бассейн, в котором 4 дорожки для плавания. Тренер сообщил, что группа будет плавать на дорожке номер 3. Сколько информации получили школьники из этого сообщения? Задача 6. В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар? Задача 6. Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено? Задача 7. При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержит этот диапазон? Задача 8. Сообщение о том, что ваш друг живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме? Задача 9. Какое количество информации несет сообщение: «Встреча назначена на сентябрь». Задача 10. Какое количество информации несет сообщение о том, что встреча назначена на 15 число? «Выходной» контроль 1. Решите следующие задачи: a) В студенческой группе 24 человека: 20 юношей и 3 девушки. Определить количество информации, содержащееся в сообщении, что староста группы – девушка. b) В лотерее N билетов, из них k выигрышных. Студент купил M билетов и после розыгрыша сообщил вам, что выиграл (но, возможно, и не на один билет). Какое количество информации вы получили? c) Бросаются одновременно две игральные кости. Определить количество информации, содержащееся в сообщении о том, что произведение числа выпавших очков четно. d) Два стрелка, для которых вероятности попадания в мишень равны соответственно 0.6 и 0.7, производят по одному выстрелу. В результате оказалось, что мишень поражена. Какое количество информации содержится в этом сообщении? e) Имеются два ящика, в каждом из которых по 12 шаров. В первом – 3 белых, 3 черных и 6 красных; во втором – по 4 шара каждого цвета. Опыты состоят в вытаскивании по одному шару из каждого ящика. Каково количество информации, содержащееся в сообщении об исходе опыта?