Количество и качество информации

синтаксического уровня
2.2. семантического уровня
2.3. прагматического уровня
3.

Качество информации (с/р)

уровень
Меры информации
Объемный подход
Энтропийный подход
Виды неопределенности
Количество информации
Формула Хартли
Формула Шеннона
Тезаурус
Зависимость количества информации

от тезауруса получателя
Коэффициент содержательности
Исследования Харкевича А.А.
Качество информации. Составляющие качества информации.

всегда происходит перенос информации в пространстве и времени от источника

к приемнику. При этом для передачи информации используют различные знаки или символы, позволяющие выразить ее в некоторой форме, называемой сообщением.

Сообщение – форма представления информации в виде совокупности знаков (символов), используемая для передачи.

где рассматриваются внутренние свойства сообщений, т.е. отношения между знаками, отражающие

структуру данной знаковой системы;
Семантическом, где анализируются отношения между знаками и обозначаемыми ими предметами, действиями, качествами, т.е. смысловое содержание сообщения, его отношение к источнику информации;
Прагматическом, где рассматриваются отношения между сообщением и получателем, т.е. потребительское содержание сообщения, его отношение к получателю.

и повышения эффективности их использования.
Это чисто технические проблемы совершенствования методов

передачи сообщений и их материальных носителей – сигналов.
На этом уровне информацию называют данными, так как смысловая сторона при этом не имеет значения.

опирается на понятие «количество информации», являющееся мерой частоты употребления знаков.

В связи с этим часто говорят, что современная теория информации находится на синтаксическом уровне.

передаваемой информации, определения степени соответствия образа объекта и самого объекта.

На данном уровне анализируются те сведения, которые отражает информация, рассматриваются смысловые связи, выявляется содержание информации, осуществляется ее обобщение.
Проблемы этого уровня чрезвычайно сложны, так как смысловое содержание информации больше зависит от получателя, чем от семантики сообщения, представленного на каком-либо языке.

данной информации потребителем.
Проблемы этого уровня связаны с определением ценности

и полезности использования информации при выработке потребителем решения для достижения своей цели.
Основная сложность здесь состоит в том, что полезность информации может быть совершенно различной для различных получателей, кроме того она зависит от ряда факторов, таких например как своевременность ее доставки и использования.

уровня не связана с содержательной стороной информации.
Для измерения информации на

синтаксическом уровне вводятся два параметра:
Объем информации (данных) - Vд объемный подход
Количество информации – I энтропийный подход.

сообщения, представляющего собой совокупность символов какого-либо алфавита.
При этом каждый

новый символ в сообщении увеличивает количество информации, представленной последовательностью символов данного алфавита.
Если теперь количество информации, содержащейся в сообщении из одного символа, принять за единицу, то объем информации (данных) в любом другом сообщении будет равен количеству символов (разрядов) в этом сообщении.
Так как одна и та же информация может быть представлена разными способами (с использованием разных алфавитов), то и единица измерения информации (данных) соответственно будет меняться.

вес равный 10 и соответственно единицей измерения информации будет дит

(десятичный разряд).
В этом случае сообщение в виде n-разрядного числа имеет объем данных Vд=n дит.
Например, в (СС )10 четырехразрядное число 2019 имеет объем данных 4 дит.
В двоичной системе счисления один разряд имеет вес, равный 2, и соответственной единицей измерения информации будет бит (binary digit- двоичный разряд). В этом случае сообщение в виде n-разрядного числа имеет объем данных Vд=n бит.
Например, восьмиразрядный двоичный код 11001011 имеет объем данных 8 бит.

измерения, такие как, килобайт, мегабайт, гигабайт, терабайт.
1 кбайт = 1024=

210 байт
1 Мбайт = 1024 кбайт = 220 байт= 1 048 576 байт
1 Гбайт = 1024Мбайт=230 байт = 1 073 741 824 байт
1Тбайт = 1024 Гбайт = 240 байт = 1099 511 627 776 байт

что факт получения информации всегда связан с уменьшением разнообразия или

неопределенности (энтропии) системы.

рассматривается теорией познания и философией; «Есть ли жизнь на других

планетах?» или «Существуют ли другие цивилизации?» и т.п.
Другой вид неопределенности – расплывчатость, размытость, – например, «Сколько надо взять песчинок, чтобы образовать небольшую кучу»?
Размытость – характерное свойство языка: «в комнату (какую?) вошел высокий (какого роста?) молодой (какого конкретно возраста?) человек (кто он?) и т.п.
Третий вид неопределенности – случайность. В ее основе лежат статистические закономерности, устанавливаемые теорией вероятности.
Отличительная особенность статистической неопределенности заключается в том, что для нее можно установить количественную меру, о которой пойдет речь далее.
Рассмотрим несколько простейших ситуаций, которые будем именовать опытами А,B и C.

этом опыте возможны два исхода (n=2): “орел или решка”. Очевидно, вероятность

каждого исхода (pi=1/2).
О п ы т B– бросание игральной шестигранной кости. В этом опыте возможны уже шесть исходов (n=6). Вероятность каждого исхода pi=1/6.
О п ы т C предполагает одновременное бросание двух костей. Для этого опыта n=36 и pi=1/36 .

Оценка неопределённости результатов опытов есть оценка трудности предугадывания исхода опыта. Интуитивно ясно, что из всех описанных ситуаций опыт С имеет максимальную неопределённость, поскольку число исходов здесь самое большое и заранее предвидеть исход этого опыта труднее всего.

исчезнувшей в ходе какого-либо процесса (испытания, измерения) неопределенности.
При этом

в качестве меры неопределенности вводится энтропия (Н), а количество информации равно:

системы или процесса
Haps – апостериорная энтропия

Апостериори (из последующего)

– происходящее из опыта.
Априори (из предшествующего) – понятие характеризующее знание, предшествующее опыту (испытанию).

В случае, когда в ходе испытания имевшаяся неопределенность снята (получен конкретный результат, т.е. Haps =0), количество полученной информации совпадает с первоначальной энтропией
I=Hapr

в 1928г.
H=logN
в информатике в качестве меры неопределенности обычно используют

формулу:
H=log2N
При этом единица неопределенности называется двоичной единицей или битом и представляет собой неопределенность выбора из двух равновероятных событий.

в которую необходимо возвести число 2, чтобы получить число равновероятных

вариантов выбора , т.е.
2I=16, где I=4 (бита)

состояния источника информации имеют одинаковую вероятность.

Американский ученый К.Шеннон обобщил понятие

меры неопределенности выбора Н на случай, когда Н зависит не только от числа состояний, то и от вероятностей этих состояний.

Эту меру называют энтропией дискретного источника информации

формулу Хартли:

смысловое содержание, извлекаемое получателем из сообщения.
Общепринятой количественной меры для

его измерения в настоящее время не существует.
Среди известных подходов к семантической оценке информации наибольшее распространение получил тезаурусный подход, когда содержащийся в принятом сообщении смысл оценивается путем соотнесения с тезаурусом получателя(приемника), его способностью понимать и принимать поступившее сообщение.
Для понимания и использования информации ее получатель должен обладать определенным запасом знаний. Полное незнание предмета не позволяет извлечь полезной информации из принятого сообщения об этом предмете.
Чем больше знаний о предмете, тем больше и количество полезной информации, извлекаемой из сообщения.

пользователь (система), в более узком – запас знаний в виде

словаря, отражающего семантические связи между словами и другими смысловыми элементами данного языка.

включаемой им в дальнейший свой тезаурус, зависит от степени подготовленности

(полноты ) тезауруса Sp для восприятия такой информации.
При недостаточно развитом тезаурусе получатель извлекает из сообщения малое количество семантической информации, а в предельном случае, когда Sp =0 (отсутствие у получателя исходных знаний) он вообще не воспринимает (не может понять)поступающее сообщение.
При достаточно развитом тезаурусе получателя также воспринимается малое количество семантической информации (тезаурус незначительно изменяется под воздействием данного сообщения), при этом в предельном случае, когда Sp →∞ получатель все знает, и извлекаемая из сообщения информация ему не нужна.

Однако одно и то же сообщение может иметь смысловое содержание

для получателя с более развитым тезаурусом (компетентного пользователя) и быть бессмысленным для получателя с недостаточно развитым тезаурусом (некомпетентного пользователя)

который определяется как отношение количества семантической информации к ее объему:
С=Ic/Vд

информации (ценность) для достижения пользователем заданной цели.
Она также величина

относительная, обусловленная особенностями использования информации в той или иной системе.

уровня обратился Харкевич А.А., который предложил принять за меру ценности

информации количество информации, необходимое для достижения поставленной цели.

после ее получения – р1, то ценность информации определяется как

логарифм отношения р1/ р0:

Максимальной ценностью обладает то количество информации, которое уменьшает потери до нуля при достижении поставленной цели.

информации, характеризующих степень ее соответствия потребностям (целям, ценностям) пользователей (средств

автоматизации, персонала и др.).

Репрезентативность 
Содержательность 
Достаточность 
Доступность 
Устойчивость 
Своевременность 
Точность 
Достоверность 
Актуальность