Seja a = 5 - 2√2 e b = √2 - 3√3, então a . b é:
(5 - 2√2) . (√2 - 3√3) eu acho que é assim

a. 5√2 - 15√3 - 6√6 - 4
b. 5√2 - 15√3 + 6√6 - 4
c. 5√2 - 15√3 - 6√6 - 8
d. 5√2 - 15√3 - 6√6 + 8
e. 5√3 - 5√2 + 6√6 - 4

Conta completa com o resultado e tudo mais! 15 pontos!