Свойства информации. Энтропия информации.
Передача информации.
Эру, в которой мы живем, часто называют столетием коммуникации. В пределах короткого периода времени, спутниковое телевидение, сотовые телефоны, мультимедийные персональные компьютеры и Интернет целиком вошли в жизнь каждого из нас. Цель всех этих медиа – передавать сообщение.
Чаще всего, люди, которые посылают или получают сообщение, заинтересованные непосредственно в сообщении, а не в носителе сообщения или маршруте, который преодолеет сообщение, чтобы достичь получателя. Например, для телефонного разговора врача с пациентом не имеет никакого значения, передается ли сигнал, который несет сообщение, через спутник или кабель. Получатель, возможно, обратит внимание на более длинную задержку в сигнале, характерную для связи через спутник и как следствие, возможно, услышит эхо.
Сделаем эскиз общей ситуации отправителя, получателя и канала передачи. Такая ситуация уместна для коммуникаций между больным и врачом, с целью обмена важными данными, медицинскими изображениями или биологическими сигналами. Кроме того, имея дело со сбором данных и их передачей, нужно указать, что все данные в здравоохранении имеют источник или отправителя (обычно больной) и получателя (обычно врач). Без передачи данные не смогут достичь получателя и не могут быть интерпретированными.
Отправитель, канал, и получатель
Среда распространения сигнала, который несет информацию, называется каналом связи (передачи). Самые распространенные и хорошо известные каналы связи представлены в таблице 1.
|
|
|
| № | Вид сигнала | Канал связи |
| 1 | Телефонная связь | Телефонный кабель |
| 2 | Электронная информация (вне компьютера) | Сетевой кабель, телефонные линии, оптическое волокно |
| 3 | Сигнал иммунного ответа | Кровь, лимфа, межклеточная среда |
| 4 | Человеческая речь | Воздушная среда |
| 5 | Нейросигналы | Аксоны, нервное волокно |
| 6 | Электронная информация (внутри компьютера) | Системная шина компьютера |
Таблица 1. Типы сигналов и каналов связи
Все ситуации коммуникации предусматривают наличие отправителя, получателя и канала передачи. Между некоторым отправителем S и получателем R всегда есть канал передачи T, через который проходит сообщение (рис. 1). Часть канала передачи - это преобразователь, который превращает сообщение в электрический сигнал, который подлежит дальнейшей обработке.
Рисунок 1. Отправитель, получатель, и канал передачи.
Отправитель передает сигнал s; во время передачи он проходит и канал шума n, в результате чего происходит наложение, и на узле получателя имеем смесь m = s + n.
Если мы обобщим разные ситуации, в которых присутствуют отправитель S, канал T и получатель R, мы можем различить пять разных конфигураций S, R и T.
|
|
|
1. S ® R (односторонняя передача).
Это ситуация односторонней передачи, когда известны как отправитель, так и получатель, и получатель заинтересован непосредственно в сообщении, а свойства канала передачи не принимаются во внимание. Примером может служить процесс прослушивания сердца (S - это сердце; s - это специфический звук, который генерируется сокращением клапанов сердца и сердечными шумами; n может быть дыханием пациента (или врача) или шумом в комнате; R - это стетоскоп и уши; T - это воздух между сердцем и преобразователем).
2. S « R (двунаправленный процесс передачи информации)
Это случай двухсторонней связи. Здесь, как и в предыдущем случае, известны отправитель и получатель, но получатель заинтересован только в сообщении, которое передается отправителем. Примером является разговор между больным и врачом по поводу истории болезни (S - это больной, отвечающий на вопросы врача; s - это сам рассказ; n - это шум от лишних или неправильно понятных слов; R - это врач, который как слушает так задает вопросы; T - это воздух: среда, которая передает сигналы от больного к врачу и наоборот).
|
|
|
3. S = R (отправитель - это получатель)
В этой ситуации, отправитель и получатель - это одно устройство (лицо). В таких ситуациях, мы заинтересованы не в сообщении как таковом, а в канале передачи и отправителем-получателем. Например, ультразвук, сгенерированный массивом пьезоэлектрических кристаллов, и эхо-сигнал, полученный от границ тканей (S - это кристаллы, которые посылают ультразвуковую волну в окружающую ткань; s - это ультразвуковая волна, которая генерируется кристаллами; n - искажение изображения, полученное от других тканей или от неоднородностей в тканях; R - это те же самые кристаллы, которые генерировали ультразвуковую волну, а сейчас получают эхосигнал; T - это канал связи между кристаллами и тканью и назад к тем самым кристаллам).
4. S ® ? (нет получателя)
В этой ситуации получатель отсутствует, или не обращает внимание, или не имеет необходимого преобразователя. Это случается, например, в случаях, когда не все симптомы собраны врачом, или их сбор выполнен не систематически, или когда заболевание протекает без симптомов (напр., в случае генерации сердцем экстрасистол, которые не зарегистрированы).
5. ? ® R (нет отправителя)
Это типичная ситуация в медицине, в которой симптомы выявлены, но причина их возникновения все еще неизвестна. Например, могут наблюдаться отклонения значений химических показателей крови, но отсутствует возможность проследить за органом, который вызывает отклонение.
|
|
|
Носители сообщений
Возрастающие потоки сообщений, необходимость хранения их в больших объемах оказывали содействие разработке и применению носителей сообщений, которые обеспечивают возможность долговременного их хранения в довольно компактной форме. Носитель - физическая среда, в которой сохраняются сообщения. Примерами носителя сообщения являются медицинская карточка, рентгеновская пленка, электромагнитная волна и т.п.
Носители сообщений разделяют на долгосрочные и краткосрочные. Представление сообщений на долгосрочных носителях называют письмом. Примером может быть последовательность печатных или рукописных знаков, которые воспринимаются зрением (письмо, которое воспринимается на прикосновенье слепыми) - записи в медицинской карточке пациента, кардиограмма, рентген, и т.п. Примерами сообщений на краткосрочных носителях являются сообщения, которые передаются телефоном, жестами.
Любой живой организм как единое целое общается с внешним миром, используя физические или химические носители (голос, жест, запах...)
Свойства информации. Энтропия информации.
Проблему относительно определения понятия информации научные работники решают не одинаково. С одной стороны, это естественно, так как ученые по-разному используют информацию, с другой - нельзя согласиться с точкой зрения, что “нет и ... не может быть единого определения понятия информация”.
Есть два подхода к определению природы информации - атрибутивный и функциональный. Приверженцы первого рассматривают информацию как объективное свойство всех материальных объектов (информация - атрибут материи). Приверженцы второго утверждают, что информация является условием и результатом направленной активности, поэтому она возникает только на социально-сознательном уровне. Не вызывает сомнения, что информация, которой обмениваются члены общества, непременно связана с отражением реальности. Еще Н.Винер понимал под информацией обозначение содержания, которое получают из внешнего мира в процессе приспособления к нему человека. При этом следует подчеркнуть разность в отношении к поиску и обработке информации человека и компьютера. Компьютер, бесспорно, быстрее обрабатывает информацию, чем человек, но это касается только замкнутой системы. С внешним миром человек работает намного эффективнее.
В узком содержании теория информации - это математическая теория передачи сообщений в системах связи. Возникла она после работ американского ученого Клода Шеннона. Основные ее постулаты такие:
- Сообщения поступают из источника информации через канал связи к приемнику информации.
- Эти сообщения изменяют систему знаний (тезаурус) приемника, уменьшают уровень его разнообразия и неопределенности, который измеряется энтропией.
- Энтропия как степень неопределенности в сообщении системы сообщений определяется их вероятностями как среднее значение логарифмов величин, обратных к этим вероятностям.
Энтропия – это среднее количество информации, приходящееся на один исход опыта или информационная энтропия — мера неопределённости источника сообщений, определяемая вероятностями появления тех или иных символов при их передаче.
Получение информации всегда связано с уменьшением неопределенности. Среднее количество информации, которое содержится в каждом исходе опыта, относительно любого, еще не наступившего исхода, равняется разности априорной и апостериорной энтропий опыта.
Априорной энтропией называется неопределенность, которая высчитывается до наступления исхода опыта. Апостериорной энтропией называют среднюю неопределенность опыта после наступления всех исходов.
Измерить среднее количество информации можно через уменьшение энтропии получателя в результате изменения его представлений. Кстати, отсюда и единица измерения информации. Она задается количеством информации о том, какое из двух равновероятных событий реализовалось, и называется бит (binary digit - бинарный разряд). К.Шенноном была предложена формула для вычисления количества информации в сообщении. Пусть некоторое событие происходит с вероятностью p, тогда количество информации І исчисляется по формуле:
І = - log2p, где 0<p<1.
Именно поэтому в 1916 году Клод Шеннон дает следующее определение информации:
Информация - это отрицательное значение логарифма вероятности события.
Все виды информации имеют общие свойства и закономерности. К свойствам информации можно отнести следующие:
- информация неаддитивна, т.е. отдельные сообщения невозможно алгебраически складывать, от этого изменяется содержание информации;
- информация некоммутативна, т.е. отдельные сообщения невозможно переставлять местами, от этого искажается содержание информации;
- информация имеет ценность. Ценность информации определяется ее актуальностью;
- информация имеет определенную надежность;
- информация не может существовать без материального носителя.
Кроме общих свойств, каждый из видов информации имеет свои характерные особенности. Например, такими особенностями для медико-биологической информации есть непрерывное создание, обновление и передача от поколения к поколению наследственных признаков (наследственная информация). Важным также является то, что хранение и передача информации в живых организмах осуществляется на молекулярном уровне.
Информацию о наблюдаемых объектах, процессах или явлениях получают при изучении разных физических величин. Например, состояние организма можно описать системой таких параметров как температура тела, частота пульса, давление, данные кардиограммы и т.п. Некоторые величины могут приобретать любые значения в определенном интервале. Их называют непрерывными, а информацию, которую они содержат, непрерывной или аналоговой. Непрерывными величинами являются, например, кривые изменения массы, температуры, расстояния и т.п. Много величин могут приобретать лишь целочисленных значения. Их называют дискретными, а информацию, которую они содержат - дискретной. Примеры дискретных величин: количество электронов в атоме, частота пульса, количество больных в отделении и т.п. Таким образом, несмотря на разнообразие видов, информация оказывается всего только в двух формах - непрерывной и дискретной. Любую непрерывную величину с определенной степенью точности можно передать в дискретной форме.
Дата добавления: 2018-11-24; просмотров: 595; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!