Двоичный источник формирует сообщение, состоящее из 11 независимых символов. каждый символ может быть представлен четырьмя символами х1,х2,х3,х4 , формируемыми с вероятностями: p(x1) = 0.2 ; p(x2) = 0.3; p(x3) = 0.4; p(x4) = 0.1. рассчитать среднее значение энтропии на символ и количество информации в сообщении

СОставляем функцию Лагранжа
L=x1+4x2+x3-10x4-5x5 +a(x1-x2+x3+x4-4x5)+
+b(x1+x2+5x3+3x4-4x5)
и записываем систему из уравнений: приравниваем к нулю производные функции L, а еще два уравнения - это заданные условия.
Находим решение - это будет точка условного экстремума, проверяем ее на максимум.

зы Хотя, условие не совсем четко записано.
Если имеется в виду, что функция зависит от пяти переменных х1,х2,х3,х4,х5, то тогда задана линейная функция и линейные ограничения. Скорее всего, максимума не будет...