Отношение двух чисел равно .
Укажи эти положительные числа, если их разность равна 0,36.
Меньшее число равно ...
Большее число равно ...

Наследство составляло, обозначим X франков.
1 сын получил 100 и 0,1 ост., т.е. 100 + (X-100)/10 = 90 + 0,1X
Осталось X - 90 - 0,1X = 0,9X - 90
2 сын получил 200 и 0,1 ост., т.е. 200 + (0,9X-290)/10 = 171 + 0,09X
Осталось 0,9X - 90 - 171 - 0,09X = 0,81X - 261
3 сын получил 300 и 0,1 ост., т.е. 300 + (0,81X-561)/10 = 243,9 + 0,081X
А! Только сейчас увидел коммент, что все доли равны. Тогда просто.
171 + 0,09X = 90 + 0,1X
Умножаем все на 100
17100 + 9X = 9000 + 10x
8100 = X
Доля каждого
90 + 8100*0,1 = 90 + 810 = 900
Сыновей было 8100 / 900 = 9

Решение
1) Система имеет бесконечное множество решений. если коэффициенты при неизвестных и свободные члены равны. Например:
3x - 2y = 6
6x - 4y = 12

Эти два уравнения системы равносильны

Если первое уравнение умножить на 2. то получаем второе уравнение
6x - 4y = 12
Получаем систему:
6x - 4y = 12
6x - 4y = 12

Или 
Если второе уравнение разделить на 2, то получаем систему:
3x - 2y = 5
3x - 2y = 6

2)  Система не имеет решений, если коэффициенты при неизвестных совпадают. а свободные члены нет. Например:
8x + 2y = 15
8x + 2y = 35

Данная система не имеет решений, так как  8х + 2у не может быть одновременно равно 15 и 35. 
В остальных случаях система имеет решение