Write the Appropriate Rotation Formulas So That in a Rotated $10 x ^ { 2 } - 4 x y + 6 y ^ { 2 } - 8 x + 8 y = 0$

Multiple Choice

Write the appropriate rotation formulas so that in a rotated system the equation has no x'y'-term.
- $10 x ^ { 2 } - 4 x y + 6 y ^ { 2 } - 8 x + 8 y = 0$

A) $x = \frac { \sqrt { 2 - \sqrt { 2 } } } { 2 } x ^ { \prime } - \frac { \sqrt { 2 + \sqrt { 2 } } } { 2 } y ^ { \prime } ; y = \frac { \sqrt { 2 + \sqrt { 2 } } } { 2 } x ^ { \prime } + \frac { \sqrt { 2 - \sqrt { 2 } } } { 2 } y ^ { \prime }$
B) $x = \frac { \sqrt { 2 } } { 2 } \left( x ^ { \prime } - y ^ { \prime } \right) ; y = \frac { \sqrt { 2 } } { 2 } \left( x ^ { \prime } + y ^ { \prime } \right)$
C) $x = - y ^ { \prime } ; y = x ^ { \prime }$
D) $x = \frac { 1 } { 2 } x ^ { \prime } - \frac { \sqrt { 3 } } { 2 } y ^ { \prime } ; y = \frac { \sqrt { 3 } } { 2 } x ^ { \prime } + \frac { 1 } { 2 } y ^ { \prime }$