Опыт Х состоит в извлечении 21 шара из урны, содержащей 17 белых и 7 чёрных шаров( всего 24 шара). Опыт Y состоит в извлечении из той же урны ещё одного шара. Чему равна информация I(X,Y) об опыте Y, содержащаяся в опыте Х?

Для ответа на данный вопрос, нам необходимо понять, что такое информация в контексте теории информации.

В теории информации используется понятие информационной энтропии, которая является мерой неопределенности или неожиданности данных. В данном случае, информация I(X,Y) об опыте Y, содержащаяся в опыте X, можно рассматривать как разность между информационной энтропией до и после проведения опыта X.

Для начала, определим информационную энтропию. Пусть событие A имеет вероятность P(A) и информационную энтропию H(A). Информационная энтропия H(A) определяется следующим образом:

H(A) = - Σ P(A) * log2(P(A))

где Σ обозначает сумму по всем возможным значениям события A. Функция log2 обозначает двоичный логарифм.

Теперь рассмотрим информацию I(X) об опыте X, содержащуюся в урне с 24 шарами. Вероятность достать белый шар из этой урны равна P(белый) = 17/24, а вероятность достать черный шар равна P(черный) = 7/24.

Тогда информационная энтропия H(X) опыта X равна:

H(X) = - P(белый) * log2(P(белый)) - P(черный) * log2(P(черный))

= - (17/24) * log2(17/24) - (7/24) * log2(7/24)

Вычислив данное выражение, получим H(X) ≈ 0.981 бит.

Теперь рассмотрим информацию I(Y) об опыте Y, содержащуюся в урне после проведения опыта X. После проведения опыта X в урне остается 3 черных и 17 белых шаров, всего 20 шаров. Вероятность достать белый шар из этой урны равна P(белый|X) = 17/20, а вероятность достать черный шар равна P(черный|X) = 3/20.

Тогда информационная энтропия H(Y|X) опыта Y, при условии, что выполнен опыт X, равна:

H(Y|X) = - P(белый|X) * log2(P(белый|X)) - P(черный|X) * log2(P(черный|X))

= - (17/20) * log2(17/20) - (3/20) * log2(3/20)

Вычислив данное выражение, получим H(Y|X) ≈ 0.934 бит.

Теперь, чтобы найти информацию I(X,Y) об опыте Y, содержащуюся в опыте X, мы вычитаем сумму энтропии опыта Y при условии опыта X из энтропии опыта Y до проведения опыта X:

I(X,Y) = H(Y) - H(Y|X)

Здесь H(Y) - энтропия опыта Y до проведения опыта X. Вероятность достать белый шар из урны до проведения опыта X равна P(белый) = 17/24, а вероятность достать черный шар равна P(черный) = 7/24.

Тогда информационная энтропия H(Y) равна:

H(Y) = - P(белый) * log2(P(белый)) - P(черный) * log2(P(черный))

= - (17/24) * log2(17/24) - (7/24) * log2(7/24)

Вычислив данное выражение, получим H(Y) ≈ 0.981 бит.

Итак, информация I(X,Y) об опыте Y, содержащаяся в опыте X, равна:

I(X,Y) = H(Y) - H(Y|X)

≈ 0.981 - 0.934

≈ 0.047 бит.

Таким образом, информация I(X,Y) об опыте Y, содержащаяся в опыте X, равна примерно 0.047 бит. Это означает, что проведение опыта X добавляет около 0.047 бит информации о результате опыта Y.