Lấy \(I\)là trung điểm của \(AB\).

Khi đó \(\overrightarrow{IA}+\overrightarrow{IB}=\overrightarrow{0}\)

\(\overrightarrow{MA}.\overrightarrow{MB}=\left(\overrightarrow{MI}+\overrightarrow{IA}\right)\left(\overrightarrow{MI}+\overrightarrow{IB}\right)=\overrightarrow{MI}.\overrightarrow{MI}+\overrightarrow{MI}\left(\overrightarrow{IA}+\overrightarrow{IB}\right)+\overrightarrow{IA}.\overrightarrow{IB}\)

\(=MI^2-\frac{a^2}{4}=2a^2\Leftrightarrow MI^2=\frac{9}{4}a^2\)

Suy ra \(M\)thuộc đường tròn tâm \(I\)bán kính \(\frac{3a}{2}\).

\(asinx+bcosx=c\)

\(\Leftrightarrow\frac{a}{\sqrt{a^2+b^2}}sinx+\frac{b}{\sqrt{a^2+b^2}}cosx=\frac{c}{\sqrt{a^2+b^2}}\)(1)

Có \(\left(\frac{a}{\sqrt{a^2+b^2}}\right)^2+\left(\frac{b}{\sqrt{a^2+b^2}}\right)^2=1\)nên ta đặt \(\frac{a}{\sqrt{a^2+b^2}}=siny,\frac{b}{\sqrt{a^2+b^2}}=cosy\)

Phương trình (1) tương đương với: 

\(sinxsiny+cosxcosy=\frac{c}{\sqrt{a^2+b^2}}\)

\(\Leftrightarrow cos\left(x-y\right)=\frac{c}{\sqrt{a^2+b^2}}\)

Nếu \(\left|\frac{c}{\sqrt{a^2+b^2}}\right|\le1\Leftrightarrow a^2+b^2\ge c^2\)phương trình có nghiệm. 

Nếu \(\left|\frac{c}{\sqrt{a^2+b^2}}\right|>1\Leftrightarrow a^2+b^2< c^2\)phương trình vô nghiệm. 

Em cảm ơn thầy rất nhiều ạ