\(\hept{\begin{cases}x^2+y^2+2\left(x+y\right)=7\\y\left(y-2x\right)-2x=10\end{cases}}\)

<=> \(\hept{\begin{cases}\left(x+1\right)^2+\left(y+1\right)^2=9\\\left(y-x\right)^2-\left(x+1\right)^2=9\end{cases}}\)

Đặt: x + 1 = a và y + 1 = b ta có hẹ mới:

\(\hept{\begin{cases}a^2+b^2=9\left(1\right)\\\left(a-b\right)^2-a^2=9\left(2\right)\end{cases}}\)

(2)< => \(a^2-2ab+b^2-a^2=9\)

<=> \(9-2ab-a^2=9\)

<=> \(a^2+2ab=0\Leftrightarrow\orbr{\begin{cases}a=0\\a=-2b\end{cases}}\)

TH:  a = 0 ta có: \(b^2=9\Leftrightarrow b=\pm3\)

Với a = 0 ; b = 3 => x = -1 ; y = 2 ( thử vào tm)

Với a = 0; b = - 3 => x = -1; y = -4 ( thử vào tm)

TH: a = - 2b thế vào ( 1) ta có: \(4b^2+b^2=9\Leftrightarrow5b^2=9\Leftrightarrow\orbr{\begin{cases}b=\frac{3\sqrt{5}}{5}\\b=-\frac{3\sqrt{5}}{5}\end{cases}}\)

Với \(b=\frac{3\sqrt{5}}{5}\)ta có: a = \(-\frac{6\sqrt{5}}{5}\)

=> x = \(-\frac{6\sqrt{5}}{5}-1\); y = \(\frac{3\sqrt{5}}{5}-1\)( thử lại thỏa mãn)

Với \(b=-\frac{3\sqrt{5}}{5}\) ta có: a = \(\frac{6\sqrt{5}}{5}\)

=>  x = \(\frac{6\sqrt{5}}{5}-1\); y = \(-\frac{3\sqrt{5}}{5}-1\)( thử lại thỏa mãn)

Ta có : \(\hept{\begin{cases}x^2+y^2+2\left(x+y\right)=7\left(1\right)\\y\left(y-2x\right)-2x=10\left(2\right)\end{cases}}\)

Lấy (1)- ( 2) 

x² +2xy + 4x + 2y + 3 = 0 

<=> ( x² + x ) + ( 2yx + 2y) + 3.( x + 1) =0

<=>  ( x + 1 ) ( x + 2y + 3 ) = 0

<=> \(\orbr{\begin{cases}x=1\left(^∗\right)\\x=-2y-3\left(^∗^∗\right)\end{cases}}\)

Thay (*) vào ( 1)

=> 1² + y² +2( 1+ y) -7 = 0

<=> y² + 2y -4 = 0

<=> \(\orbr{\begin{cases}y_1=-1+\sqrt{5}\\y_2=-1-\sqrt{5}\end{cases}}\)

Thay ( **) vào (1) 

(-2y-3)² + y² +2(-2y-3 + y) = 7 

5y² + 10y -  4 = 0

<=> \(\orbr{\begin{cases}y=\frac{-5+3\sqrt{5}}{5}\Rightarrow x=-\frac{5+6\sqrt{5}}{5}\\y=\frac{-5-3\sqrt{5}}{5}\Rightarrow x=-\frac{5+6\sqrt{5}}{5}\end{cases}}\)

Nếu m=n ta có đpcm

Xét m \(\ne\)n ta đặt \(\hept{\begin{cases}m+n=2x\\m-n=2y\end{cases}\left(x;y\inℤ;x>0;y\ne0\right)}\)khi đó ta có: \(\hept{\begin{cases}m=x+y\\n=x-y\end{cases}\left(m,n>0\right)\Rightarrow\hept{\begin{cases}x+y>0\\x-y>0\end{cases}\Rightarrow}x=\left|y\right|}\)

Do đó \(n^2-1⋮\left|m^2-n^2+1\right|\Rightarrow-\left(m^2-n^2-1\right)+m^2⋮\left|m^2-n^2+1\right|\Rightarrow m^2=k\left(m^2-n^2+1\right)\left(1\right)\left(k\inℤ\right)\)

Thay m=x+y; n=x-y ta có: (x+y)²=k(4xy+1)

<=> x²-2(2x-1)xy+y²-k=0 (*)

Phương trình (*) có 1 nghiệm là x thuộc Z nên có 1 nghiệm nữa là x₁. Theo hệ thức Vi-et ta có:

\(\hept{\begin{cases}x+x_1=2\left(2k-1\right)\\xx_1=y^2-k\end{cases}\Rightarrow x;x_1\inℤ}\)

Nếu x₁>0 => (x;y) là cặp nghiệm thỏa mãn (*)

=> x₁>|y| => y²-k=xx₁ > |y|²=y² => k<0 => x₁+x₂=2(2k-1)<0 (mâu thuẫn)

Nếu x₁<0 thì xx₁=y²-k<0 => k>y² => k>0 => 4xy+1>0 => y>0 ta có:

k=x₁²-2(2k-1)x₁y+y²=x₁²+2(2k-1)|x₁|y+y²> 2(2k-1) |x₁|y >= 2(2k-1)>k (mâu thuẫn)

vậy x₁=0 khi đó k=y² và \(m^2-n^2+1=\left(\frac{m}{y}\right)^2\)nên |m²-n²+1| là số chính phương