система
sqrt(x+y)+sqrt(x+2y)=10
sqrt(x+y)+2x+y=16
вычитаем из второго первое уравнение. уединяем справа число.. дальше тупик.