Решить систему уравнений методом подстановки
(x+1)/(y+1) = ½
(x-1)/(y-1) = ⅓​

Пусть х^2 + 5x = a, тогда (а + 6)(а + 4) = 840
                                             а^2 +4а +6а +24 = 840
                                             а^2 + 10a -816 = 0
  решаем кв. уравнение  a = 24
                                             a = -32

  х^2 + 5x = 24                                                    х^2 + 5x = -32
х^2 + 5x - 24 = 0                                                 х^2 + 5x + 32 = 0
х = 3          и        х= -8                                           нет корней

Понятно, что в больших коробках и в маленьких коробках количество книг одинаковое и равно половине от общего количества книг (примем за Х). Неодинаково количество больших и маленьких коробок. Пусть больших коробок было А штук, а меленьких В штук. Тогда 24*А - количество книг в больших коробках, 15*В - количество книг в маленьких коробках. И там, и там половина от общего количества книг (по условию). То есть, 24*А = 15*В = Х/2. Мы знаем, что больших коробок на 3 меньше, значит А - 3 = В. Подставим это значение В в наше первое уравнение:
24А = 15(А-3)
24А = 15А-45
А = 5 - столько было больших коробок, а книг в них, соответственно, 120 (24 * 5). Маленьких коробок было 8 (5 + 3), и книг в них тоже 120.
Следовательно, всего книг 120 * 2 = 240.
ответ: 240 книг.