Как связана неопределенность знания с получением информации кратко

Обновлено: 02.07.2024

Основоположник теории информации Клод Шеннон определил информацию, как снятую неопределенность. Точнее сказать, получение информации - необходимое условие для снятия неопределенности. Неопределенность возникает в ситуации выбора. Задача, которая решается в ходе снятия неопределенности – уменьшение количества рассматриваемых вариантов (уменьшение разнообразия), и в итоге выбор одного соответствующего ситуации варианта из числа возможных. Снятие неопределенности дает возможность принимать обоснованные решения и действовать. В этом управляющая роль информации.

Ситуация максимальной неопределенности предполагает наличие нескольких равновероятных альтернатив (вариантов), т.е. ни один из вариантов не является более предпочтительным. Причем, чем больше равновероятных вариантов наблюдается, тем больше неопределенность, тем сложнее сделать однозначный выбор и тем больше информации требуется для этого получить. Для N вариантов эта ситуация описывается следующим распределением вероятностей: .

Минимальная неопределенность равна 0, т.е. эта ситуация полной определенности, означающая что выбор сделан, и вся необходимая информация получена. Распределение вероятностей для ситуации полной определенности выглядит так: .

Величина, характеризующая количество неопределенности в теории информации обозначается символом H и имеет название энтропия, точнее информационная энтропия.

Энтропия ( H )мера неопределенности, выраженная в битах. Так же энтропию можно рассматривать как меру равномерности распределения случайной величины.

На рисунке 8. показано поведение энтропии для случая двух альтернатив, при изменении соотношения их вероятностей ( p , (1- p )).

Максимального значения энтропия достигает в данном случае тогда, когда обе вероятности равны между собой и равны ½, нулевое значение энтропии соответствует случаям ( p 0=0, p 1=1) и ( p 0=1, p 1=0).

Количество информации I и энтропия H характеризуют одну и ту же ситуацию, но с качественно противоположенных сторон. I – это количество информации, которое требуется для снятия неопределенности H . По определению Леона Бриллюэна информация есть отрицательная энтропия (негэнтропия).


Когда неопределенность снята полностью, количество полученной информации I равно изначально существовавшей неопределенности H .

При частичном снятии неопределенности, полученное количество информации и оставшаяся неснятой неопределенность составляют в сумме исходную неопределенность. Ht + It = H .

По этой причине, формулы, которые будут представлены ниже для расчета энтропии H являются и формулами для расчета количества информации I , т.е. когда речь идет о полном снятии неопределенности, H в них может заменяться на I .

Чем больше у человека знаний, тем меньше он нуждается в информации. И наоборот.

Слишком общий вопрос. Все, что можно сказать - что получение информации может влиять на уровень наших знаний. Например, если я получу информацию о том, что ты мальчик, а ты на самом деле девочка, уровень моих знаний понизится.

мы не знаем определённо и наверняка что именно мы знаем.
и потому в процессе получения информации может оказаться что мы либо получаем новую информацию, либо вспоминаем что-то забытое.

Содержательный подход к измерению информации.

Рассмотрим еще один пример.

Применим метод половинного деления. Зададим несколько вопросов уменьшающих неопределенность знаний в два раза.

Задаем вопросы:
- Книга лежит выше четвертой полки?
- Нет.
- Книга лежит ниже третьей полки?
- Да .
- Книга — на второй полке?
- Нет.
- Ну теперь все ясно! Книга лежит на первой полке!

Каждый ответ уменьшал неопределенность в два раза.

Пример: Вы бросаете монету, загадывая, что выпадет: орел или решка?

Решение: Есть два варианта возможного результата бросания монеты. Ни один из этих вариантов не имеет преимущества перед другим (равновероятны). Перед подбрасыванием монеты неопределенность знаний о результате равна двум.

После совершения действия неопределенность уменьшилась в 2 раза. Получили 1 бит информации.

Свидетельство и скидка на обучение каждому участнику

Зарегистрироваться 15–17 марта 2022 г.

Кустол Оксана Анатольевна

МБОУ "Раздольненская школа-лицей №1"

Тема: Неопределенность знания и количество информации

образовательная: сформировать представлений об информации, как мере уменьшения неопределенности знания, формировать практические навыки по определению количества информации.

воспитательная: формировать интерес к предмету, воспитывать настойчивость в преодолении трудностей в учебной работе, воспитать стремление к саморазвитию

Тип урока: изучение нового материала

Форма урока: синтетическая .

Место урока в учебной теме: первичный

Методы и методические приемы:

1 Информационно - рецептивный:
а) словесный: рассказ - объяснение, описание, беседа,

б) наглядный: иллюстрации, демонстрация, ТСО.
Приемы обучения : изложение информации, объяснение, активизация внимания и мышления, получение из текста и иллюстраций новых знаний, работа с раздаточным материалом.
2. Репродуктивный.
Приемы обучения : подача материала в готовом виде, конкретизация и закрепление уже приобретенных знаний.
3. Визуальный: составление логических цепочек.
4. Суггестивный: применение различных видов искусства .

5. Перцептивный ( восприятие и связь с жизнью ):
6 . Релаксопедический: психологическая разгрузка .
Межпредметные связи: математика, экономика

Материалы и оборудование: презентация, раздаточный материал, проектор, ноутбук

Основные понятия и термины: информация, объем

I. Организационный момент

Приветствие, проверка присутствующих. Объяснение хода урока.

II . Актуализация знаний

Тему сегодняшнего урока Вы должны определить сами. Для этого я предлагаю вам ответить, что объединяет эти понятия . Попробуйте догадаться, о чем это сказано.

сведения, разъяснения, изложение

сведения об окружающем мире и протекающих в нем процессах, воспринимаемые человеком или специальными устройствами

Действительно все эти определения относятся к одному понятию - информация.

"Отраженное многообразие" - так говорят об информации в философии. "Хлеб управления" - в кибернетике, снятая неопределенность - в информатике, сведения, разъяснения, изложение - перевод с латинского языка, "сведения об окружающем мире и протекающих в нем процессах, воспринимаемые человеком или специальными устройствами" - определение информации в словаре Ожегова.

III . Изучение нового материала

Человек всегда стремиться к количественному измерению различных величин. Получая ту или иную информацию, мы понимаем, что не всегда ее бывает достаточно для того, чтобы решить какие-либо проблемы. И как оценить информационный объем книги или статьи?

Оказывается, в информатике существуют два подхода к измерению информации: алфавитный и содержательный. О первом - алфавитном подходе - мы поговорим на следующих уроках. А сегодня рассмотрим только содержательный подход к измерению информации.

Содержательный подход позволяет оценить количество информации с точки зрения уменьшения неопределенности наших знаний об объекте.

Рассмотрим, как можно измерить количество информации на примере подбрасывания монеты. Будем считать, то наша монета идеальная: не зависает в воздухе, не падает на ребро и не пропадает момент бросания. Сколько возможных положений может занять монета после подбрасывания?

Ответ учащихся: Два положения: "орел" или "решка".

Предположим монету подбросили, и она упала "орлом". Какое количество информации мы получили. Начальная неопределенность равна 2, конечная неопределенность равна 1, Изменение неопределенности в 2 раза. Количество информации - 1 бит.

Неопределенность знания о результате некоторого события — это число возможных результатов события.

Как происходит уменьшение неопределенности знаний

Рассмотрим более сложную задачу. В классе 8 учеников. Учитель хочет узнать, кто дежурный и для этого предлагает детям ответить на предложенные вопросы.

Дежурный сидит на последних двух партах?

Ответ учащихся: Нет.

Рассчитаем, какое количество информации мы получили. Начальная неопределенность - 8, конечная неопределенность - 4, изменение неопределенности - в 2 раза. Количество информации - 1 бит.

Дежурный сидит на правом ряду?

Ответ учащихся: Да.

Рассчитаем, какое количество информации мы получили в этот раз. Начальная неопределенность - 4, конечная неопределенность - 2, изменение неопределенности - в 2 раза. Количество информации - 1 бит.

Дежурный сидит на первой парте?

Ответ учащихся: Нет

Рассчитаем, какое количество информации мы получили в этот раз. Начальная неопределенность - 2, конечная неопределенность - 1, изменение неопределенности - в 2 раза. Количество информации - 1 бит.

Давайте посмотрим на полученную таблицу. Какова начальная неопределенность?

Ответ учащихся: 8

Ответ учащихся: 1

Какое общее количество информации мы получили?

Ответ учащихся: 3 бита.

Посмотрите на эти числа: 8, 2 и 3. Как они связаны между собой?

Ответ учащихся: 8 равно 2 в кубе.

Действительно это так. Мы путем рассуждений получили с вами формулу расчета количества информации - формулу Хартли.

N=2 I , где N - изменение неопределенности знаний, а I - количество информации.

За единицу измерения информации принимают 1 бит. 1 бит - это количество информации, уменьшающее неопределенность знаний о предмете в два раза.

Следующие соотношения единиц измерения количества информации следует запомнить:

hello_html_12649c07.jpg

Заметьте, что приставка Кило означает не 1000, а 1024 в информатике (1024 - это 2 в 10-ой степени)

Давайте теперь, используя формулу Хартли, рассчитаем количество информации в различных случаях. Использовать раздаточный материал.

IV .Закрепление. Решение задач.

Задача1 . На светофоре горит желтый свет. После этого загорелся зелёный. Какое количество информации Вы получили?

Задача 3. При угадывании целого числа в диапазоне от 1 до N было получено 9 бит информации. Чему равно N?

Задача4. Загадано слово из 10 букв. Вы просите открыть пятую букву. Вам ее открыли. Сколько информации вы получили?

Эти задачи мы решали коллективно. А теперь я предлагаю вам самостоятельно решить следующую задачу.

Проверка решения задачи

V . Проверка уровня усвоения материала. Самостоятельная работа.

1. Самостоятельная работа

А теперь, я Вам предлагаю самостоятельно решить задачи и получить за них оценки . Полученный вами ответ будет соответствовать одной букве из таблицы. Из полученных букв вы должны составить русскую народную пословицу.

Век живи - век учись . Эта пословица в настоящее время актуальна как никогда, ведь все вокруг нас так быстро меняется, что успеть за всеми изменениями можно только в том случае, если постоянно узнаешь что-то новое и двигаешься только вперед. Я желаю вам быть успешными и не забывать о пословице "век живи - век учись"

В программе tux paint
1.найти в левом верхнем углу значек"шаблоны"
2.нажать на значек шаблоны
3.выбрать понравившийся шаблон.
4.отрегулировать размер в правом нижнем углу.
5.нажать на фон
6.рисунок готов.

Ели не красная рубашка- значит синея, тогда получаем что цвет рубашки синий и методом исключения берем что ошиблись в цвете, т.е в красном а значит восмикласник в синей рубашке.

4) C2:= A2+B2= 45+55= 100
C3:= A3+B3= 120+60= 180
- так как нет значка $, то значит ссылки меняются по мере их перемещения, то есть, раз в данном случае мы двигаемся вниз, то изменяется только номер, а буква остается прежней.

9) $A1 - меняется только цифра по мере перемещения; B$1 - меняется только буква по мере перемещения;
C1:=135
C2:= $A2+B$1= 45+25=70;
C3:=$A3+B$1=120+25+ 145;
D1:=$A1+C$1= 110+135+245;
D2:=$A2+C$1= 45+135= 180;
D3:=$A3+C$1= 120+135= 255

Читайте также: