, дискретная математика, очень )

Решим задачу в общем случае. Обозначим число сторон в основании призмы за n. Тогда призма имеет n граней и 2n вершин.
Вероятность рассчитывается как отношение числа благоприятных исходов к общему числу исходов.
Найдем общее число исходов: выбрать 3 вершины из 2n имеющихся можно 
Найдем число благоприятных исходов как разность общего числа исходов и числа неблагоприятных исходов. Общее число исходов известно, теперь находим число неблагоприятных исходов.
Если все выбранные вершины лежат на боковой грани или на основании, то образовавшееся сечение не будет содержать точек строго внутри призмы. Число выбрать три вершины боковой грани равно , так как призма имеет n боковых граней, и в каждой грани расположено 4 вершины. Число выбрать три вершины основания равно , так как призма имеет всего два основания и в каждом из этих оснований расположено n вершин.
Получаем общее число неблагоприятных исходов: . Тогда число благоприятных исходов равно .
Находим искомую вероятность:

Для одиннадцатиугольной призмы, то есть для n=11, получаем:

ответ: 0.76

Ранее приводил решение этой задачи, где было пропущено "в центре ВТОРОГО квадрата", поэтому просто копирую его:
Площади квадратов будут соответственно равны: 2*2=4 см2, 4*4=16 см2, 6*6=36 см2. После того, как наложим 2-й квадрат на первый, получим фигуру, площадь добавленной фигуры будет = 16 - 1 = 15 см2, т.к. общая часть наложенных квадратов будет квадратом 1x1 = 1 см2, её следует вычесть. Площадь фигуры их двух квадратов = 4+15 = 19 см2.  Общая часть 2-го и 3-го квадратов будет квадратом 2x2 = 4 см2. Площадь фигуры из двух квадратов увеличится на 6*6-2*2 = 32 см2, а площадь всей фигуры будет = 19+32 = 51 см2.   (ответ Б)
   Можно записать одной формулой: 2*2 + 4*4 - 1*1 + 6*6 - 2*2 = 51 см2