Математика для гиков.
Математическое понятие: теория информации.
Время от времени находится какой-нибудь математик, который меняет ход истории. Одним из них был Клод Шеннон. В середине ХХ века Шеннон работал в Bell Labs (знаменитый исследовательский отдел AT&T), потом преподавал в Массачусетском технологическом институте. Он также был инженером по электронике и интересовался коммуникациями. Его исследование положило начало теории информации, благодаря которой появились цифровые компьютеры, Интернет и компакт-диски. Он также помог популяризировать термин «бит», что является сокращением от «двоичной цифры». Другими словами, Шеннон сделал будущее возможным.
Одна из идей пришла к Шеннону, когда он учился в магистратуре в Массачусетском технологическом институте. Он понял, что структура коммутационной схемы в аналоговых компьютерах и телефонных сетях напоминала структуру булевой алгебры (см. главу 3.19). В физическом смысле замкнутая цепь могла представлять логическое значение «истина», а открытая цепь – «ложь». В сущности, Шеннон понял, что можно записать работу логики в машине. Вы на самом деле можете решить проблему по логике и математике, используя переключатели и цепи. Это вылилось в магистерскую диссертацию Шеннона в 1938 году под названием «Символьный анализ реле и коммутаторов», теперь эту диссертацию называют самой важной диссертацией ХХ века.
Позднее, во время работы над взломом кодов во время Второй мировой войны, Шеннон заинтересовался дальней связью. Его мысли в конечном итоге переросли в книгу «Математическая теория связи», опубликованную в 1949 году. Шеннон изучал проблемы, присущие отправке сообщений на дальние расстояния по проводам, чем дальше было расстояние, тем сигнал становился все хуже и появлялось больше шума. Но путем преобразования информации в сообщении в основные единицы под названием «биты», состоящие из единиц и нулей, можно с легкостью восстановить сообщение на другом конце провода, так как единицы и нули очень легко отличить. А виды сообщений, которые можно передавать с помощью этих двух чисел, варьируются от видео до фотографий, от аудиофайлов до электронных писем: все, что можно передать через Интернет.
Шеннон также связал биты и понятие энтропии, которое для него указывает на количество информации в каждом конкретном сообщении. Вот его знаменитое уравнение:
H(X)=–∑p(x)logp(x)
Поэтому, когда в следующий раз будете отправлять письмо по электронной почте, подумайте о Клоде.
Шифры.
На техническом языке шифр – это четкий метод для кодирования информации. Примером является шифр замены, в котором одни буквы заменяются другими. В некоторых шифрах замены даже используются несколько алфавитов. В начале ХХ века электромеханические шифры, такие, как в немецкой машине «Энигма», означали, что машина, а не человек осуществляли эти замены.


- 1.
- 2.
- 3.
- 4.
- 5.
- 6.
- 7.
- 8.
- 9.
- 10.
- 11.
- 12.
- 13.
- 14.
- 15.
- 16.
- 17.
- 18.
- 19.
- 20.
- 21.
- 22.
- 23.
- 24.
- 25.
- 26.
- 27.
- 28.
- 29.
- 30.
- 31.
- 32.
- 33.
- 34.
- 35.
- 36.
- 37.
- 38.
- 39.
- 40.
- 41.
- 42.
- 43.
- 44.
- 45.
- 46.
- 47.
- 48.
- 49.
- 50.
- 51.
- 52.
- 53.
- 54.
- 55.
- 56.
- 57.
- 58.
- 59.
- 60.
- 61.
- 62.
- 63.
- 64.
- 65.
- 66.
- 67.
- 68.
- 69.
- 70.
- 71.
- 72.
- 73.
- 74.
- 75.
- 76.
- 77.
- 78.
- 79.
- 80.
- 81.
- 82.
- 83.
- 84.
- 85.
- 86.
- 87.
- 88.
- 89.
- 90.
- 91.
- 92.
- 93.
- 94.
- 95.
- 96.
- 97.
- 98.
- 99.
- 100.
- 101.
- 102.
- 103.
- 104.
- 105.
- 106.
- 107.
- 108.
- 109.
- 110.
- 111.
- 112.
- 113.
- 114.
- 115.
- 116.
- 117.
- 118.
- 119.
- 120.
- 121.
- 122.
- 123.
- 124.
- 125.
- 126.
- 127.
- 128.
- 129.
- 130.
- 131.
- 132.
- 133.
- 134.
- 135.
- 136.
- 137.
- 138.
- 139.
- 140.
- 141.
- 142.
- 143.
- 144.
- 145.
- 146.
- 147.
- 148.
- 149.
- 150.
- 151.
- 152.
- 153.
- 154.
- 155.
- 156.
- 157.
- 158.
- 159.
- 160.
- 161.
- 162.
- 163.
- 164.
- 165.
- 166.
- 167.
- 168.
- 169.
- 170.
- 171.
- 172.
- 173.
- 174.
- 175.
- 176.
- 177.
- 178.
- 179.
- 180.
- 181.
- 182.
- 183.
- 184.
- 185.
- 186.
- 187.
- 188.
- 189.
- 190.
- 191.
- 192.
- 193.
- 194.
- 195.
- 196.
- 197.
- 198.
- 199.
- 200.
- 201.
- 202.
- 203.
- 204.
- 205.
- 206.
- 207.
- 208.