Vamos lá.

Veja, que a resolução é simples. Vamos tentar fazer tudo passo a passo para um melhor entendimento.

2x*(x + 1) - x*(x + 5) = 3*(12 - x)

2x² + 2x - x² - 5x - 36 + 3x = 0

x² = 36

x1 = 6, x2 = -6

S = (-6, 6) <--- Esta é a resposta.

É isso aí.

Deu pra entender bem?

Ok?

Mestre Albert