§ 3.6. алгоритмы управления

Содержание

Глава I. Управление и алгоритмы 9§ 1. Управление и кибернетика 10§ 2. Управление с обратной связью 13§ 3. Определение и свойства алгоритма 17§ 4. Графический учебный исполнитель 23§ 5. Вспомогательные алгоритмы и подпрограммы 28§ 6. Циклические алгоритмы 33§ 7. Ветвление и последовательная детализация алгоритма 39Дополнение к главе I. 461.1. Автоматизированные и автоматические системы управления 461.2. Использование рекурсивных процедур 50Система основных понятий главы I 58Глава II. Введение в программирование 61§ 8. Что такое программирование 62§ 9. Алгоритмы работы с величинами 64§ 10. Линейные вычислительные алгоритмы 69§ 11. Знакомство с языком Паскаль 74§ 12. Алгоритмы с ветвящейся структурой 80§ 13. Программирование ветвлений на Паскале .86§ 14. Программирование диалога с компьютером 91§ 15. Программирование циклов 94§ 16. Алгоритм Евклида 101§ 17. Таблицы и массивы 105§ 18. Массивы в Паскале 110§ 19. Одна задача обработки массива 115§ 20. Поиск наибольшего и наименьшего элементов массива 119§ 21. Сортировка массива 125Дополнение к главе II 1322.1. Программирование перевода чисел из одной системы счисления в другую 1322.2. Сложность алгоритмов 1362.3. О языках программирования и трансляторах 1412.4. История языков программирования 147Система основных понятий главы II 154Глава III. Информационные технологии и общество 157§ 22. Предыстория информатики 158§ 23. История ЭВМ 166§ 24. История программного обеспечения и ИКТ 175§ 25. Информационные ресурсы современного общества 185§ 26. Проблемы формирования информационного общества 188§ 27. Информационная безопасность 190

Подходы, направления и задачи информационного менеджмента

В деятельности информационного менеджера реализуются следующие подходы:        

  • экономический – определяется объем затрат на применение тех или иных технологий и прогнозируется размер экономии или прибыли, которую оно способно принести;
  • аналитический – определяются потребности пользователей и возможные методы их удовлетворения;
  • организационный – применение IT-систем соотносится и согласуется со всем процессом управления фирмой;
  • системный – объединяет все вышеуказанные подходы и рассматривает информационную среду как единое целое.

Все эти подходы на практике пересекаются. IT-менеджер имеет право сосредоточиться, например, на решении некоего денежного вопроса – но при этом он обязан учитывать и потребности пользователей, и организационные моменты.

В ИТ-менеджменте выделяются три основных направления – собственно управление информационными системами, их стратегическое развитие и IT-маркетинг. Оперативное управление ориентировано в первую очередь на настоящее, стратегическое развитие – на будущее (как правило, на грядущие три-пять лет)

IT-маркетинг обретает важность в том случае, если компания занята производством и продажей IT-продуктов, то есть предлагает свои разработки в IT-сфере широкому кругу клиентов.

Независимо от выбранного подхода и направления, ИТ-менеджер должен уметь решать следующие задачи:         

  • техническое обеспечение информационной системы;
  • развитие и обслуживание ИТ-системы;
  • планирование в пределах имеющихся полномочий;
  • создание организационной структуры, обеспечивающей функционирование ИТ-среды;
  • дальнейшее управление персоналом в рамках этой оргструктуры;
  • решение финансовых вопросов в своей области;
  • обеспечение защиты информации.

Принципы Джона фон Неймана для компьютера

  • сначала
    с помощью внешнего устройства в память
    компьютера вводится программа;

  • устройство
    управления считывает содержимое ячейки
    памяти, где находится первая инструкция
    программы, и организует ее выполнение
    (арифметические или логические операции,
    чтение данных с внешних устройств или
    из памяти, вывод данных на внешние
    устройства или запись в память);

  • переход
    на следующую (или заданную) ячейку
    памяти и выполнение следующей инструкции;

  • повторение
    предыдущих шагов.

Таким образом
может быть организовано автоматическое
(без вмешательства человека) выполнение
всех инструкций программы. Затем
результаты выполненной программы должны
быть выведены на внешние устройства
(экран дисплея, листы бумаги принтера
или внешняя память), и компьютер переходит
в режим ожидания сигналов внешних
устройств.

Любой
вариант процесса обработки информации
происходит по следующей схеме (рис. 3):

Рис. 3 Общая схема
процесса обработки информации

В любом
случае можно говорить о том, что в
процессе обработки информации решается
некоторая информационная задача, которая
предварительно может быть поставлена
в традиционной форме: дан некоторый
набор исходных данных — исходной
информации;
требуется
получить
некоторые
результаты — итоговую
информацию.
Сам
процесс перехода от исходных данных к
результату и есть процесс обработки.
Тот объект или субъект, который
осуществляет обработку, может быть
назван исполнителем
обработки.
Исполнитель может быть человеком, а»
может быть специальным техническим
устройством, в том числе компьютером.

Обычно
обработка информации — это целенаправленный
процесс. Для успешного выполнения
обработки информации исполнителю должен
быть известен способ обработки, т.е.
последовательность действий, которую
нужно выполнить, чтобы достичь нужною
результата. Описание такой последовательности
действий в информатике принято называть
алгоритмом
обработки.

Примеры
ситуаций, связанных с обработкой
информации. Такие ситуации можно
разделить на два типа.

Первый
тип обработки:
обработка,
связанная с получением новой информации,
нового содержания знаний.

К этому
типу обработки относится решение
математических задач. Например, даны
две стороны треугольника и угол между
ними, требуется определить все остальные
параметры треугольника: третью сторону,
углы, площадь, периметр. Способ обработки,
т.е. алгоритм решения задачи, определяется
математическими формулами, которые
должен знать исполнитель.

К
первому же типу обработки информации
относится решение различных задач путем
применения логических рассуждений.
Например, следователь по некоторому
набору улик находит преступника; человек,
анализируя сложившиеся обстоятельства,
принимает решение о своих дальнейших
действиях; ученый разгадывает тайну
древних рукописей и т.п.

Второй
тип обработки:
обработка,
связанная с изменением формы, но не
изменяющая содержания.

К этому
типу обработки информации относится,
например, перевод текста с одного языка
на другой. Изменяется форма, но должно
сохраниться содержание. Важным видом
обработки для информатики является
кодирование. Кодирование

это преобразование информации в
символьную форму, удобную для ее хранения,
передачи, обработки. Кодирование активно
используется в технических средствах
работы с информацией (телеграф, радио,
компьютеры).

Другой
вид обработки информации — структурирование
данных.
Структурирование связано с внесением
определенного порядка, определенной
организации в хранилище информации.
Расположение данных в алфавитном
порядке, группировка по некоторым
признакам классификации, использование
табличного или (графового представления
— все это примеры структурирования.
Еще один важный вид обработки информации
поиск.
Задача
поиска обычно формулируется так: имеется
некоторое хранилище информации —
информационный
массив
(телефонный
справочник, словарь, расписание поездов
и пр.), требуется найти в нем нужную
информацию, удовлетворяющую определенным
условиям
поиска
(телефон
данной организации, перевод данного
слова на английский язык, время отправления
данного поезда). Алгоритм поиска зависит
от способа организации информации. Если
информация структурирована, то поиск
осуществляется быстрее, и можно построить
оптимальный алгоритм.

Классификация информационных систем управления

Классификация ИСУ проводится по наиболее характерным чертам (признакам), которые присущи информационным системам. Например:

  1. По характеру представления и логической организации информации:

    • Фактографические ИС предназначены для накопления и хранения данных в виде множества экземпляров одного или нескольких типов структурных элементов (элементов информации), отражающих сведения по каким-либо фактам, событиям и т.д., отделенному от других сведений.
    • Единичным элементом информации документальных ИС является входной документ. При создании информационной базы структуризация не производится или производится ограниченно.
    • В геоинформационных системах содержатся отдельные информационные объекты, привязанные к общей электронной топографической основе (электронной карте).
  2. По функциям и задачам:

    • Справочные ИС, предоставляющие пользователям получать определенные классы объектов (телефоны, адреса, литературу и пр.). Например, картотеки, электронные справочники, программные или аппаратные электронные записные книжки и т.д.
    • Информационно-поисковые ИС, предназначенные для поиска и получения сведений по разным поисковым образам.
    • Расчетные ИС, предназначенные для обработки информации по определенным расчетным алгоритмам.
    • Технологические ИС, предназначенные для автоматизации всего технологического цикла или отдельных его компонент производственной или организационной структуры.
  3. По масштабу:

    • Локальное автоматизированное рабочее место (АРМ) –комплекс программно-технических средств, предназначенный для реализации управленческих функций на отдельном рабочем месте;
    • Комплекс связанных АРМ, которые реализуют в полном объеме функции управления;
    • Компьютерная сеть АРМ, которая обеспечивает интеграцию функций управления в рамках предприятия;
    • Корпоративная информационная система (КИС), которая обеспечивает полнофункциональное распределенное управление крупномасштабным предприятием.

1.7. Какими свойствами обладает информация?

Свойства информации:

  • достоверность;
  • полнота;
  • ценность;
  • своевременность;
  • понятность;
  • доступность;
  • краткость;
  • и др.

Информация достоверна, если она отражает истинное положение дел.
Недостоверная информация может привести к неправильному пониманию или
принятию неправильных решений.

Достоверная
информация со временем может стать недостоверной
, так как она обладает
свойством устаревать, то есть перестаёт отражать истинное положение
дел
.

Информация
полна, если её достаточно для понимания и принятия решений
. Как неполная,
так и избыточная информация сдерживает принятие решений или может повлечь
ошибки
.

Точность
информации
определяется степенью ее близости к реальному состоянию
объекта, процесса, явления и т.п.

Ценность
информации зависит от того, насколько она важна для решения задачи
,
а также от того, насколько в дальнейшем она найдёт применение в каких-либо
видах деятельности человека
.

Только
своевременно полученная информация может принести ожидаемую пользу.
Одинаково нежелательны как преждевременная подача информации (когда
она ещё не может быть усвоена), так и её задержка.

Если
ценная и своевременная информация выражена непонятным образом
, она
может стать бесполезной.

Информация
становится понятной, если она выражена языком, на котором говорят
те, кому предназначена эта информация.

Информация
должна преподноситься в доступной
(по уровню восприятия) форме. Поэтому
одни и те же вопросы по разному излагаются в школьных учебниках и научных
изданиях.

Информацию по одному и тому же вопросу можно изложить кратко
(сжато, без несущественных деталей) или пространно (подробно,
многословно). Краткость информации необходима в справочниках,
энциклопедиях, учебниках, всевозможных инструкциях.

Информационные системы управления предприятием

Принято выделять 3 уровня систем управления: стратегический, тактический и оперативный. Каждый из этих уровней имеет собственные задачи, для решения которых необходимо получить соответствующие данные, например, путем запроса к информационной системе. С помощью информационных технологий запросы обрабатываются и формируется ответ на конкретный запрос. Следовательно, на каждом из трех уровней управления формируется информация, которая служит основой для принятия соответствующих решений.

С помощью информационных технологий, которые применяются к информационным ресурсам, создается новая информация или информация в качественно новой форме. Такая продукция информационной системы называется информационными продуктами и услугами.

Требования к информационной системе компании (в частности, информационной системе управления предприятием):

  • возможность накопления определенного опыта и знания, обобщение их в виде формализованных процедур и алгоритмов решения;
  • постоянное совершенствование и развитие;
  • быстрая адаптация к изменениям внешней среды и новым потребностям организации;
  • соответствие насущным требованиям человека, его опыту, знаниям, психологии.

Определение 2

Таким образом, информационная система управления предприятием (ИСУП) – это система, которая содержит описание полного рыночного цикла – от планирования бизнеса до анализа результатов деятельности предприятия.

Понятие информационной системы управления

Определение 1

Информационная система управления (ИСУ) является совокупностью организационных, технических, программных и информационных средств, которые объединены в единую систему с целью сбора, хранения, обработки и выдачи информации, которая предназначена для выполнения функций управления. С помощью информационной системы накапливается и перерабатывается поступающая нормативная, плановая и учетная информация в аналитическую информацию, служащую основой для прогнозирования развития системы управления, корректировки целей и планирования нового цикла воспроизводства.

Требования к обработке информации в информационной системе:

  • информация должна быть полной и достаточной;
  • информация должна предоставляться своевременно;
  • информация должна быть достоверной;
  • обработка информации должна быть экономичной;
  • информация должна быть адаптивной к изменяющимся информационным потребностям пользователей.

1.10. Что понимают под информатизацией общества?

Информатизация общества
организованный социально-экономический и научно-технический процесс создания
оптимальных условий для удовлетворения информационных потребностей и реализации
прав граждан, органов государственной власти, органов местного самоуправления
организаций, общественных объединений на основе формирования и использования
информационных ресурсов [].

Цель информатизации улучшение качества жизни людей за счет
увеличения производительности и облегчения условий их труда.

Информатизация
это сложный социальный процесс, связанный со значительными изменениями
в образе жизни населения. Он требует серьёзных усилий на многих направлениях,
включая ликвидацию компьютерной неграмотности, формирование культуры
использования новых информационных технологий и др.

1.1. Что такое инфоpматика?

Термин «информатика» (франц. informatique) происходит
от французских слов information (информация) и automatique
(автоматика) и дословно означает «информационная автоматика».

Широко распространён также англоязычный вариант этого термина
«Сomputer science», что означает буквально «компьютерная наука».

Инфоpматика это основанная на
использовании компьютерной техники дисциплина, изучающая
структуру и общие свойства информации, а также закономерности и методы
её создания, хранения, поиска, преобразования, передачи и применения в
различных сферах человеческой деятельности.

В 1978 году международный научный конгресс официально закрепил за понятием
«информатика» области, связанные с разработкой, созданием,
использованием
и материально-техническим обслуживанием систем обработки информации, включая
компьютеры и их программное обеспечение, а также организационные, коммерческие,
административные и социально-политические аспекты компьютеризации
массового
внедрения компьютерной техники во все области жизни людей
.

Таким образом, информатика базируется на компьютерной технике и немыслима
без нее.

Инфоpматика комплексная научная дисциплина с широчайшим диапазоном применения. Её
приоритетные направления:

  • pазpаботка вычислительных систем и пpогpаммного обеспечения;
  • теоpия инфоpмации, изучающая процессы, связанные с передачей,
    приёмом, преобразованием и хранением информации;
  • математическое моделирование, методы вычислительной и прикладной
    математики и их применение к фундаментальным и прикладным исследованиям
    в различных областях знаний;
  • методы искусственного интеллекта, моделирующие методы логического и
    аналитического мышления в интеллектуальной деятельности человека
    (логический вывод, обучение, понимание речи, визуальное восприятие, игры и др.);
  • системный анализ, изучающий методологические средства, используемые
    для подготовки и обоснования решений по сложным проблемам различного характера;
  • биоинформатика, изучающая информационные процессы в биологических системах;
  • социальная информатика, изучающая процессы информатизации общества;
  • методы машинной графики, анимации, средства мультимедиа;
  • телекоммуникационные системы и сети, в том числе, глобальные
    компьютерные сети, объединяющие всё человечество в единое информационное сообщество;
  • разнообразные пpиложения, охватывающие производство, науку,
    образование, медицину, торговлю, сельское хозяйство и все другие виды
    хозяйственной и общественной деятельности.

Российский академик А.А. Дородницин выделяет в информатике три неразрывно
и существенно связанные части технические средства, программные и
алгоритмические.

Роль информатики в развитии общества чрезвычайно велика. С ней связано начало
революции в области накопления, передачи и обработки информации. Эта революция,
следующая за революциями в овладении веществом и энергией, затрагивает
и коренным образом преобразует не только сферу материального производства,
но и интеллектуальную, духовную сферы жизни.

Прогрессивное увеличение возможностей компьютерной техники, развитие
информационных сетей, создание новых информационных технологий приводят к
значительным изменениям во всех сферах общества: в производстве, науке,
образовании, медицине и т.д.

1.12. Упражнения

1.1. Запишите множество вариантов
загорания двух светофоров, расположенных на соседних перекрёстках.

1.2. Три человека, Иванов, Петров и Сидоров, образуют очередь. Запишите
все возможные варианты образования этой очереди.

1.3. Назовите все возможные комбинации из двух различных нот (всего
нот семь: до, ре, ми, фа, соль, ля, си).

1.4. Пусть голосуют 3 человека
(голосование «да»/»нет»). Запишите все возможные исходы голосования.

1.5. Предположим, что имеются
3 автомобильные дороги, идущие от Парижа до Тулузы, и 4 от Тулузы до
Мадрида. Сколькими способами можно выбрать дорогу от Парижа в Мадрид через
Тулузу? Попытайтесь найти систематический метод для последовательного
нахождения решения так, чтобы можно было составить список способов, не
пропустив ни одного из них.

1.6. Поезд находится на
одном из восьми путей. Сколько бит информации содержит сообщение о том,
где находится поезд?

1.7. Сколько существует
различных двоичных последовательностей из одного, двух, трех, четырёх,
восьми символов?

1.8. Каков информационный
объём сообщения «Я помню чудное мгновенье» при условии, что один
символ кодируется одним байтом и соседние слова разделены одним пробелом?

1.9. Определите приблизительно информационный объём:

  • а) этой страницы книги;
  • б) всей книги;
  • в) поздравительной открытки.

1.10. Сколько бит необходимо, чтобы закодировать оценки:
«неудовлетворительно», «удовлетворительно», «хорошо» и «отлично»?

1.11. Сколько различных символов, закодированных байтами, содержится
в сообщении:
   1101001100011100110100110001110001010111 ?

1.12. Сколько байт памяти необходимо,
чтобы закодировать изображение на экране компьютерного монитора, который
может отображать 1280 точек по горизонтали и 1024 точек по вертикали при
256 цветах?

1.13. Решите уравнение: 8x (бит) = 32 (Кбайт).

1.14. Решите систему уравнений   ж 2х+2 (бит) = 8y-5 (Кбайт),
н
 и 22y-1 (Мбайт) = 16x-3 (бит).

1.15. Определите правила
формирования приведённых ниже последовательностей и вставьте пропущенные
числа []:

а) 1, 3, 5, …, 9; ж) 128, 64, 32, …, 8; н) 15 (27) 42
б) 20, 15, …, 5; з) 4, 9, 17, 35, …, 139;     
30 (…) 55;
в) 1, 2, 4, …, 16; и) 1, 2, 2, 4, 8, …, 256; о) 10 (50) 15
г) 1, 4, 9, …, 25; к) 2, 3, 10, 15, …, 35;     
17 (…) 20;
д) 1, 8, 27, …, 125; л) 1, 3, 3, 9, …, 6561; п) 143 (56) 255
е) 1, 2, 6, …, 120; м) к, о, ж, з, г, …, ф;     
218 (…) 114.

Должность информационного менеджера

Когда IT-технологии только начинали внедряться, ими хаотично управляли, с одной стороны, технические рабочие и программисты, а с другой стороны – представители топ-менеджмента, для которых это не было существенной частью служебных обязанностей. Первые нередко слабо понимали нужды сотрудников и клиентов, заставляли их подстраиваться под свои интересы, плохо ориентировались в стратегических вопросах развития бизнеса. Вторые обычно мало знали о новых технологиях, их требования трудно было согласовать с реальным положением дел.  

Вскоре стало ясно, что передача руководящих полномочий профильным сотрудникам резко повышает эффективность информатизации рабочего процесса. Это решение реализуется несколькими способами – что привело к появлению на рынке большого количества различных вакансий для ИТ-менеджеров.

Во-первых, такой профессионал может трудиться в специализированной компании, которая на правах аутсорсинга управляет информационной архитектурой фирм-клиентов. Такой метод организации работы с ИТ особенно распространился в последнее время благодаря возможности выполнять многие действия в режиме удаленного доступа (а эта возможность, в свою очередь, обязана своим появлением успешному распространению ИТ-технологий).

В крупных фирмах, работающих с особо сложными технологиями, по-прежнему сохраняются собственные ИТ-отделы. Главным ИТ-менеджером такой компании является директор по IT, нередко имеющий статус заместителя гендиректора. Ему подчиняется начальник отдела, а тот, в свою очередь, часто имеет в своем подчинении не только технических работников, но и менеджеров низшего звена, занимающихся отдельными узкими вопросами.

Наконец, на предприятиях, основная деятельность которых непосредственно связана с ИТ-сферой, ИТ-менеджеры возглавляют большое количество различных направлений. Они ориентированы уже не только на удовлетворение внутренних потребностей, но и на взаимодействие с потенциальными и реальными клиентами.  Особая позиция – менеджер ИТ-проектов. Такие специалисты в течение ограниченного срока занимаются достижением некоей комплексной цели в ИТ-сфере – например, контролируют разработку новой компьютерной программы или создают для предприятия систему информационной безопасности.

Передача информации

Передача информации – это информационный процесс, заключающийся в перемещении информационных сигналов от источника к приемнику по информационным каналам связи. Особенности информационного процесса передачи информации заключаются в тесной связи с изменением формы представления информации. Так, передаче производится кодирование и декодирование информации для удобства транспортировки сигнала. Например, при передаче электронного письма требуется преобразовать текстовую информацию в электрические сигналы и передать по телекоммуникационным каналам связи. То есть процесс передачи тесно связан с информационным процессом обработки информации.

Разные помехи, возникающие при передаче сигнала, называются шумом. Для защиты от помех применяют избыточное кодирование, которое заключается в многократном повторении передаваемых сигналов

Помехозащищенность является важной характеристикой канала связи

Еще одним параметром, характеризующим канал связи, является пропускная способность, которая выражается в количестве символов переданных за единицу времени по каналу связи в отсутствие помех.

Что мы узнали?

Информация является стратегическим ресурсом, все виды жизнедеятельности современного общества связаны с получением, хранением, преобразованием и распространением информации. Различают информационные процессы передачи, хранения, обработки. Процесс обработки информации может быть направлен как на изменение содержательной части информационного сообщения, так и на преобразование формы выражения информации. С обработкой информации тесно связан процесс передачи, качество которого зависит от свойств канала связи. Для сбора и хранения информации существует большое количество различных приспособлений и устройств.

Тест по теме

  1. Вопрос 1 из 10

    Информационный процесс – это:

    • Последовательность действия, приводящая к достижению результата за конечное число шагов
    • Действия, связанные с обработкой, хранением и передачей информации
    • Мероприятия по созданию глобальных информационных сетей
    • Мероприятия по организации вычислительного процесса

Начать тест(новая вкладка)

1.5. Как измеряется количество информации?

Какое количество информации содержится, к примеру, в тексте романа
«Война и мир», во фресках Рафаэля или в генетическом коде человека? Ответа на
эти вопросы наука не даёт и, по всей вероятности, даст не скоро.
А возможно ли объективно измерить количество информации? Важнейшим
результатом теории информации является следующий вывод:

В определенных, весьма широких условиях можно пренебречь качественными
особенностями информации, выразить её количество числом, а также сравнить
количество информации, содержащейся в различных группах данных.

В настоящее время получили распространение подходы к определению понятия
«количество информации», основанные на том, что информацию, содержащуюся
в сообщении, можно нестрого трактовать в смысле её новизны или, иначе,
уменьшения неопределённости наших знаний об объекте
.
  Эти подходы используют математические понятия вероятности и логарифма.
  Если вы еще не знакомы с этими понятиями, то можете пока  
 
 
 

        Подходы к определению количества информации.   Формулы Хартли и Шеннона.

Американский инженер Р. Хартли в 1928 г. процесс получения
информации рассматривал как выбор одного сообщения из конечного наперёд
заданного множества из N равновероятных сообщений, а количество информации I,
содержащееся в выбранном сообщении, определял как двоичный логарифм N.

            Формула Хартли:
  I = log2N

Допустим, нужно угадать одно число из набора чисел от единицы до ста. По формуле
Хартли можно вычислить, какое количество информации для этого требуется:
I = log2100 > 6,644. Таким образом,
сообщение о верно угаданном числе содержит количество информации,
приблизительно равное 6,644 единицы информации.

Приведем другие примеры равновероятных сообщений:

при бросании монеты: «выпала решка», «выпал орел»;

на странице книги: «количество букв чётное», «количество букв
нечётное».
Определим теперь, являются ли равновероятными сообщения «первой выйдет
из дверей здания женщина» и «первым выйдет из дверей здания мужчина».
Однозначно ответить на этот вопрос нельзя. Все зависит от того,
о каком именно здании идет речь. Если это, например, станция метро, то
вероятность выйти из дверей первым одинакова для мужчины и женщины, а если
это военная казарма, то для мужчины эта вероятность значительно выше, чем
для женщины.

Для задач такого рода американский учёный Клод Шеннон предложил в 1948 г.
другую формулу определения количества информации, учитывающую возможную
неодинаковую вероятность сообщений в наборе.

                      Формула Шеннона:
I = ( p1log2
p1 + p2
log2 p2
+ .

+ pN log2
pN),
где pi вероятность того, что именно
i-е сообщение выделено в наборе из N сообщений.

Легко заметить, что если вероятности p1, …, pN
равны, то каждая из них равна 1 / N, и формула Шеннона превращается
в формулу Хартли.

Помимо двух рассмотренных подходов к определению количества информации, существуют
и другие

Важно помнить, что любые теоретические результаты применимы
лишь к определённому кругу случаев, очерченному первоначальными допущениями.

В качестве единицы информации Клод Шеннон предложил принять  один  бит    (англ.
bit binary digit двоичная цифра).

Бит в теории информации количество информации, необходимое
для различения двух равновероятных сообщений   (типа «орел»»решка», «чет»»нечет» и т.п.).
В вычислительной технике битом называют наименьшую «порцию» памяти компьютера,
необходимую для хранения одного из двух знаков «0» и «1», используемых для
внутримашинного представления данных и команд.

Бит слишком мелкая единица измерения. На практике чаще применяется более крупная
единица  байт,  равная  восьми битам.
Именно восемь битов требуется для того, чтобы закодировать любой из
256 символов алфавита клавиатуры компьютера (256=28).

Широко используются также ещё более крупные производные единицы
информации
:

  • 1 Килобайт (Кбайт) = 1024 байт
    = 210 байт,
  • 1 Мегабайт (Мбайт) = 1024 Кбайт
    = 220 байт,
  • 1 Гигабайт (Гбайт) = 1024 Мбайт
    = 230 байт.

В последнее время в связи с увеличением объёмов обрабатываемой информации входят в
употребление такие производные единицы, как:

  • 1 Терабайт (Тбайт) = 1024 Гбайт
    = 240 байт,
  • 1 Петабайт (Пбайт) = 1024 Тбайт
    = 250 байт.

За единицу информации можно было бы выбрать количество информации, необходимое для
различения, например, десяти равновероятных сообщений. Это будет не двоичная
(бит), а десятичная (дит) единица информации.