Информатика
| Предыдущая глава ( Логарифмы и октавы ) | Содержание книги | Следующая глава ( Спектр ) |
«Целевое расщепление логического фундамента на понятия <нет> и <да> является самым большим препятствием на пути к познанию вами бытия»
(неизвестный автор)
Пусть величина \(x_i\) принимает одно из двух значений: \[x_i=\pm\frac{1}{2}\] Сумма пары таких бинарных величин в четырех комбинациях может принимать одно из трех значений: –1, 0, +1. Это соответствует логическому фундаменту «да / нет / не знаю». При этом наиболее вероятно «не знаю», имеющее два варианта.
Сумма N пар независимых случайных бинарных величин \(x_i\) принимает целые значения от –N до +N: \[X_N=\sum_{i=1}^N{x_{2i-1}+x_{2i}}\] Сумма равномерно распределенных величин имеет следующее распределение, заданное количеством определенных комбинаций из общего числа комбинаций \(4^N\):
| \(N\) | \(X_N\) | \(4^N\) | ||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| –4 | –3 | –2 | –1 | 0 | +1 | +2 | +3 | +4 | ||
| 1 | 1 | 2 | 1 | 4 | ||||||
| 2 | 1 | 4 | 6 | 4 | 1 | 16 | ||||
| 3 | 1 | 6 | 15 | 20 | 15 | 6 | 1 | 64 | ||
| 4 | 1 | 8 | 28 | 56 | 70 | 56 | 28 | 8 | 1 | 256 |
Согласно центральной предельной теореме, это распределение должно быть близким к нормальному, что наблюдается при приравнивании вероятности определенной комбинации к плотности вероятности\[f(X_N)=\frac{1}{\sigma\sqrt{2\pi}}\exp(–\frac{{X_N}^2}{2\sigma^2})\]
| \(N\) | \(X_N\) | \(3\sigma\) | ||||||||
|---|---|---|---|---|---|---|---|---|---|---|
| –4 | –3 | –2 | –1 | 0 | +1 | +2 | +3 | +4 | ||
| 1 | 0,8 | 2,3 | 0,8 | 2,12 | ||||||
| 2 | 0,1 | 0,9 | 3,9 | 6,4 | 3,9 | 0,9 | 0,1 | 3 | ||
| 3 | 0,1 | 1,0 | 5,5 | 14,9 | 20,8 | 14,9 | 5,5 | 1,0 | 0,1 | 3,67 |
| 4 | 1,3 | 7,6 | 26,5 | 56,3 | 72,2 | 56,3 | 26,5 | 7,6 | 1,3 | 4,24 |
Наиболее вероятны состояния системы величин \(x_i\) при ее уравновешивании \((X_N=0)\). Обозначая количество этих равновероятных состояний как \(\Omega_N\), величина \(\ln\Omega_N\) здесь называется информационной емкостью или энтропией системы.
Первые три величины \(\Omega_N\) близки к величинам сумм ряда Фибоначчи или «золотого сечения»:
| \(N\) | \(\sum_{i=0}^{2N–1}{F_i}\) | \(\Omega_N\) | \(\ln\Omega_N\) |
|---|---|---|---|
| 1 | (1+1) = 2 | 2 | 0,69 |
| 2 | (3+2) + (1+1) = 7 | 6 | 1,79 |
| 3 | (8+5) + (3+2) + (1+1) = 20 | 20 | 3 |
| 4 | (21+13) + (8+5) + (3+2) + (1+1) = 54 | 70 | 4,25 |
Особенно выделяется случай \(N=3\), в котором емкость или энтропия \(\ln\Omega_3=2,996\approx 3\). Пространство состояний системы из трех пар бинарных величин можно изобразить простой 3D-матрицей (кубом), а также звездчатым тетраэдром:
| Количество нулевых пар | \(X_N\) | Количество комбинаций | Геометрия |
|---|---|---|---|
| 3 | 0 | 8 | Грани внутреннего октаэдра |
| 2 | ±1 | 24 | Выпуклые ребра |
| 1 | 0 | 12 | Грани |
| ±2 | 12 | ||
| 0 | ±1 | 6 | Вершины |
| ±3 | 2 |
Примеры систем из трех пар бинарных величин в природе и культуре:
- Кодон ДНК/РНК состоит из трех нуклеотидов и имеет \(4^3=64\) комбинаций, избыточно кодируя 20 аминокислот.
- В человеческом языке около 20 согласных звуков (см. «Речь»). Во многих случаях, особенно в семитских языках, согласные звуки более информативны, чем менее разнообразные гласные.
- \(2^6=64\) гексаграмм И-Цзин. Но китайцы делят эти гексаграммы на две тройки, а не на три пары.
- Одни из первых компьютеров использовали 6-разрядные двоичные слова, имеющие \(2^6=64\) возможных значений, которых вполне достаточно для кодирования латинского алфавита, арабских цифр и минимального набора специальных знаков.
- 20-ричная система счисления – древняя и самая распространенная после десятичной системы. Используется в культуре индейцев майя, в языках айнов (см. также «Китай и Япония»), кельтов, кавказцев и африканцев. В индоевропейских языках есть числительные от 11 до 19.
| Предыдущая глава ( Логарифмы и октавы ) | Содержание книги | Следующая глава ( Спектр ) |
