Question

Каким методом решать эту систему с двумя неизвестными

Answer 1

Заметим, что $x^2y+xy^2=xy(x+y)$
$left { {{xy(x+y)=6} atop {xy+(x+y)=5}} right.$
Пусть $xy=a, x+y=b$
$left { {{ab=6} atop {a+b=5}} right.$
Решения легко подбираются, а можно и решить подстановкой. В итоге получаем две системы:
$left { {{a=2} atop {b=3}} right.$ или $left { {{a=3} atop {b=2}} right.$
$left { {{xy=2} atop {x+y=3}} right.$ или $left { {{xy=3} atop {x+y=2}} right.$
Решения снова можно подобрать или найти, решив систему подстановкой. В итоге первая система разбивается на две, а вторая решений не имеет.
$left { {{x=2} atop {y=1}} right.$ или $left { {{x=1} atop {y=2}} right.$

Ответ: (1; 2), (2; 1)