Методы и модели оценки количества информации способы измерения информации




НазваниеМетоды и модели оценки количества информации способы измерения информации
Дата конвертации02.03.2013
Размер445 b.
ТипПрезентации



МЕТОДЫ И МОДЕЛИ ОЦЕНКИ КОЛИЧЕСТВА ИНФОРМАЦИИ

  • способы измерения информации:

    • объемный,
    • энтропийный,
    • алгоритмический.


Объемный метод измерения информации

  • Объемный является самым простым и грубым способом измерения информации.

  • Соответствующую количественную оценку информации естественно назвать объемом информации.

  • Объем информации в сообщении это количество символов в сообщении.

    • Поскольку, например, одно и то же число может быть записано многими разными способами (с использованием разных алфавитов): «двадцать один», 21, 11001, XXI, то этот способ чувствителен к форме представления (записи) сообщения.
    • В вычислительной технике вся обрабатываемая и хранимая информация вне зависимости от ее природы (число, текст, отображение) представлена в двоичной форме (с использованием алфавита, состоящего всего из двух символов 0 и 1). Такая стандартизация позволила ввести две стандартные единицы измерения: бит и байт.
      • Байт — это восемь бит.


Энтропийный подход к измерению информации

  • Получатель информации (сообщения) имеет определенные представления о возможных наступлениях некоторых событий.

  • Эти представления в общем случае недостоверны и выражаются вероятностями, с которыми он ожидает то или иное событие.

  • Общая мера неопределенности (энтропия) характеризуется некоторой математической зависимостью от совокупности этих вероятностей.

  • Количество информации в сообщении определяется тем, насколько уменьшится эта мера после получения сообщения.



Алгоритмический метод оценки информации

  • Любому сообщению можно приписать количественную характеристику, отражающую сложность (размер) программы, которая позволяет ее произвести.

    • Каждый согласится, что слово 0101...01 сложнее слова 00...0, а слово, где 0 и 1 выбираются из эксперимента — бросания монеты (где 0 — герб, 1 — решка), сложнее обоих предыдущих.
      • Компьютерная программа, производящая слово из одних нулей, крайне проста: печатать один и тот же символ.
      • Для получения 0101...01 нужна чуть более сложная программа, печатающая символ, противоположный только что напечатанному.
      • Случайная, не обладающая ни какими закономерностями последовательность не может быть произведена никакой «короткой» программой. Длина программы, производящей хаотичную последовательность, должна быть близка к длине последней.
  • Для определенности задаются некоторой конкретной вычислительной машиной, например машиной Тьюринга, а предполагаемая количественная характеристика — сложность слова (сообщения) определяется как минимальное число внутренних состояний машины Тьюринга, требующиеся для его воспроизведения.





ФОРМЫ ПРЕДСТАВЛЕНИЯ И ПРЕОБРАЗОВАНИЯ ИНФОРМАЦИИ

  • Формирование представления информации называется ее кодированием.

  • В более узком смысле под кодированием понимается переход от исходного представления информации, удобного для восприятия человеком, к представлению, удобному для хранения, передачи и обработки.

  • Обратный переход к исходному представлению называется декодированием.



При кодировании информации ставятся следующие цели:

  • 1) удобство физической реализации;

  • 2) удобство восприятия;

  • 3) высокая скорость передачи и обработки;

  • 4) экономичность, т.е. уменьшение избыточности сообщения;

  • 5) надежность, т.е. зашита от случайных искажений;

  • 6) сохранность, т.е. защита от нежелательного доступа к информации.



  • В отличие от обычной словесной формы, принятой в письменной речи, информация в памяти ЭВМ записывается в форме цифрового двоичного кода.

    • Это объясняется тем, что электронные элементы, из которых строится оперативная память, могут находиться только в одном из двух устойчивых состояний, которые можно интерпретировать как 0 или 1.
  • Количество информации, которое может помещаться в один элемент памяти (0 или 1), называемое битом, очень мало и не несет никакой смысловой нагрузки. Однако если соединить несколько таких элементов в ячейку, то тогда можно сохранить в запоминающем устройстве столько информации, сколько потребуется.

    • Последовательность битов, рассматриваемых аппаратной частью ЭВМ как единое целое, называется машинным словом.
  • Так как оперативная память ЭВМ состоит из конечной последовательности слов, а слова - из конечной последовательности битов, то объем представляемой в ЭВМ информации ограничен емкостью памяти, а числовая информация может быть представлена только с определенной точностью, зависящей от архитектуры памяти данной ЭВМ.



  • Для автоматизации работы с данными унифицируют форму представления данных – применяют кодирование

  • Кодирование- выражение данных одного типа через данные другого типа.



  • В более узком смысле под кодированием понимается переход от исходного представления информации, удобного для восприятия человеком, к представлению, удобному для хранения, передачи и обработки.

  • Обратный переход к исходному представлению называется декодированием.



При кодировании информации ставятся следующие цели:

  • 1) удобство физической реализации;

  • 2) удобство восприятия;

  • 3) высокая скорость передачи и обработки;

  • 4) экономичность, т.е. уменьшение избыточности сообщения;

  • 5) надежность, т.е. зашита от случайных искажений;

  • 6) сохранность, т.е. защита от нежелательного доступа к информации.



Кодирование данных двоичным кодом

  • Двоичное кодирование- представление данных последовательностью двух знаков : 0 и 1.

  • Двоичные цифры – binary digit – bit (бит)

  • Один бит выражает два понятия: 0 и 1 (да и нет, черное и белое)





Единицы измерения данных

  • 1Мбайт = 1024 Кбайт = 210 байт

  • 1Гбайт = 1024 Мбайт = 230 байт

  • 1Тбайт = 1024 Гбайт = 210 байт



Кодирование данных двоичным кодом

  • 00 01 10 11

  • 000 001 010 011 100 101 110 111

  • Для кодирования целых чисел от 0 255 достаточно иметь 8 разрядов двоичного кода (8 бит)

  • 0000 0000 = 0

  • 0000 0001 = 1

  • 1111 1111 = 255



СИСТЕМЫ СЧИСЛЕНИЯ

  • Системой счисления называется совокупность приемов наименования и записи чисел.

  • В любой системе счисления для представления чисел выбираются некоторые символы (слова или знаки), называемые базисными числами, а все остальные числа получаются в результате каких-либо операций из базисных чисел данной системы исчисления.

  • Символы, используемые для записи чисел, могут быть любыми, только они должны быть разными и значение каждого из них должно быть известно.



ПОЗИЦИОННЫЕ СИСТЕМЫ СЧИСЛЕНИЯ

  • Система счисления называется позиционной, если значение каждой цифры (ее вес) изменяется в зависимости от ее положения (позиции) в последовательности цифр, изображающих число.



Десятичная позиционная система счисления

  • основана на том, что десять единиц каждого разряда объединяются в одну единицу соседнего старшего разряда.

  • Таким образом, каждый разряд имеет вес, равный степени 10.

    • Например, в записи числа 343.32 цифра 3 повторена три раза, при этом самая левая цифра 3 означает количество сотен (ее вес равен 102); цифра 3. стоящая перед точкой, означает количество единиц (ее вес равен 100 ), а самая правая цифра 3 — количество десятых долей единицы (ее вес равен 10-1), так что последовательность цифр 343.32 представляет собой сокращенную запись выражения :
  • 3x102 + 4x101+3x100 + 3x10-1 + 2x10-2.

  • Десятичная запись любого числа X в виде последовательности цифр:

  • аnаn-1..а1aоа-1...ат...

  • основана на представлении этого числа в виде полинома:

  • Х = аn10n + аn-110n-1+... +a1 101+a0100+a-110-1+...+a-m10-m...,



  • Число К единиц какого-либо разряда, объединяемых в единицу более старшего разряда, называют основанием позиционной системы счисления, а сама система счисления называется К-ичной.

    • Например, основанием десятичной системы счисления является число 10;
    • двоичной — число 2;
    • троичной — число 3 и т.д.
  • Для записи произвольного числа в K-ичной системе счисления достаточно иметь К разных цифр аi i=1,...K.

    • Например, в троичной системе счисления любое число может быть выражено посредством цифр 0, 1,2. Эти цифры служат для обозначения некоторых различных целых чисел, называемых базисными.
























  • Арифметические действия над числами в любой позиционной системе счисления производятся по тем же правилам, что и в десятичной системе, так как все они основываются на правилах выполнения действий над соответствующими полиномами.

  • При этом нужно только пользоваться теми таблицами сложения и умножения, которые имеют место при данном основании К системы счисления.























Кодирование текстовых данных

  • Двоичных код используют при кодировании текста, когда каждому символу алфавита сопоставляется определенное число.













Похожие:

Методы и модели оценки количества информации способы измерения информации iconМатематические основы информатики Тема 2 методы и модели оценки количества информации
Соответствующую количественную оценку информации естественно назвать объемом информации
Методы и модели оценки количества информации способы измерения информации iconКоличество информации. Единицы измерения количества информации 8 класс

Методы и модели оценки количества информации способы измерения информации iconБит – наименьшая единица измерения количества информации, соответствующая 1 разряду двоичного кода

Методы и модели оценки количества информации способы измерения информации iconКодирование информации в компьютере Двоичный код
Способы кодирования и декодирования информации в компьютере, в первую очередь, зависит от вида информации, а именно, что должно кодироваться:...
Методы и модели оценки количества информации способы измерения информации iconЕдиницы измерения информации. Алфавитный подход к измерению информации. Алфавит
Набор букв, знаков препинания, цифр, скобок, пробелов и др символов, используемых в тексте
Методы и модели оценки количества информации способы измерения информации iconКодирование текстовой информации Единицы измерения информации
В системе ascii закреплены таблицы кодирования некоторых специальных символов, строчных и прописных русских и латинских букв, цифр,...
Методы и модели оценки количества информации способы измерения информации iconИстория развития вычислительной техники Единицы измерения информации Файловая система Всемирная паутина Кто есть кто в компьютерной истории Аппаратное обеспечение
История развития вычислительной техники Единицы измерения информации Файловая система
Методы и модели оценки количества информации способы измерения информации iconЛекция: Кодирование и шифрование информации Информатика Цель: рассмотреть основные понятия кодирования информации; шифрования информации, защиты информации
В современном обществе успех любого вида деятельности зависит от обладания определенными сведениями (информацией) и от отсутствия...
Методы и модели оценки количества информации способы измерения информации iconЕдиницы измерения информации

Методы и модели оценки количества информации способы измерения информации iconЕдиницы измерения информации
Вам известны единицы измерения длины. Это миллиметры, сантиметры, метры и километры. Масса измеряется в граммах, килограммах, центнерах...
Разместите кнопку на своём сайте:
hnu.docdat.com


База данных защищена авторским правом ©hnu.docdat.com 2012
обратиться к администрации
hnu.docdat.com
Главная страница