Нужно развернутое решение

Используем такую замену
x1 = y1*cos a - y2*sin a
x2 = y1*sin a + y2*cos a
Здесь а - это угол поворота системы координат.
11(y1*cos a-y2*sin a)^2 + 14(y1*sin a+y2*cos a)^2 - 4(y1*cos a-y2*sin a)(y1*sin a+y2*cos a) =
= 11(y1^2*cos^2 a + y2^2*sin^2 a - 2y1*y2*sin a*cos a) +
+ 14(y1^2*sin^2 a + y2^2*cos^2 a + 2y1*y2*sin a*cos a) -
- 4(y1^2*sin a*cos a - y1*y2*sin^2 a + y1*y2*cos^2 a - y2^2*sin a*cos a) =
= y1^2*(11cos^2 a + 14sin^2 a - 4sin a*cos a) +
+ y2^2*(11sin^2 a + 14cos^2 a - 4sin a*cos a) +
+ y1*y2*(-22sin a*cos a + 28sin a*cos a - 4cos^2 a + 4sin^2 a)
Наша цель - избавиться от члена y1*y2, поэтому приравняем его коэффициент к 0.
-22sin a*cos a + 28sin a*cos a - 4cos^2 a + 4sin^2 a = 0
4sin^2 a + 6sin a*cos a - 4cos^2 a = 0
Делим все на 2cos^2 a
2tg^2 a + 3tg a - 2 = 0
D= 9 + 4*2*2 = 25
tg a1 = (-3 - 5)/4 = -2 < 0 - не подходит
tg a2 = (-3 + 5)/4 = 1/2 - подходит.
Угол поворота такой, что tg a = 1/2
sin a = tg a / √(1 + tg^2 a) = (1/2) / √(1+1/4) = 1/2 * √(4/5) = 1/2 * 2/√5 = 1/√5
cos a = √(1 - sin^2 a) = √(1 - 1/5) = √(4/5) = 2/√5
Подставляем в наше уравнение, получаем
y1^2*(11cos^2 a + 14sin^2 a - 4sin a*cos a) +
+ y2^2*(11sin^2 a + 14cos^2 a - 4sin a*cos a) +
+ y1*y2*(-22sin a*cos a + 28sin a*cos a - 4cos^2 a + 4sin^2 a) =
= y1^2*(11*4/5 + 14*1/5 - 4*1/√5*2/√5) + y2^2*(11*1/5 + 14*4/5 - 4*1/√5*2/√5) + 0 =
= y1^2/5*(44 + 14 - 8) + y2^2/5*(11 + 56 - 8) = y1^2/5*50 + y2^2/5*59
F(y1, y2) = 50y1^2/5 + 59y2^2/5
Угол поворота
a = arctg(1/2)