Resposta:

[tex]\int{\frac{x^3}{\sqrt{x^2+1}}}dx=(x^2-2)\sqrt{x^2+1}/3[/tex]

Explicação passo a passo:

Pelo próprio enunciado, devemos utilizar, de algum modo, a integração por substituição para extrairmos a integral.

Note que podemos substituir o valor de x^2, pois, quando extrairmos a relação dos diferenciais, obtemos du=2xdx; e note que, quando multiplicamos ambos os lados da igualdade, obtemos:

[tex]x^2du=2x^3dx[/tex]

 Se u=x^2, temos:

[tex]u\cdot du=2x^3\cdot dx[/tex]

[tex]u\cdot du/(2dx)=x^3[/tex]

Podemos retirar o x^3 da integral pelas variáveis de u. Sendo assim, podemos tomar iniciativa na resolução:

[tex]\int{x^3/\sqrt{x^2+1}}dx \text{ | }u=x^2 \Leftrightarrow du=2xdx\Leftrightarrow u\cdot du/(2dx)=x^3[/tex]

[tex]1/2\int{u/\sqrt{u+1}}du[/tex]

 Podemos resolver a integral resultante por integração parcial:

[tex]1/2\int{u/\sqrt{u+1}}du=1/2(u\int{1/\sqrt{u+1}}du-\int{\frac{d}{du}[u]\cdot1/\sqrt{u+1}}du)[/tex]

 Realizando a integração de 1/√u+1:

[tex]\int{1/\sqrt{u+1}}du \text{ | }v=u+1 \Leftrightarrow dv=du[/tex]

[tex]\int{1/\sqrt{v}}dv=2\sqrt v+C=2\sqrt{u+1}+C[/tex]

 Sendo a derivada de u = 1, temos:

[tex]1/2(2u\sqrt{u+1}-2\int{\sqrt{u+1}}du)[/tex]

 Distribuindo fator 1/2, e resolvendo a integral de √(u+1), que é 2/3(u+1)√(u+1).

[tex]u\sqrt{u+1}-2/3(u+1)\sqrt{u+1}[/tex]

[tex](3/3u-2/3(u+1))\sqrt{u+1}[/tex]

[tex](3u-2u-2)\sqrt{u+1}/3[/tex]

[tex](u-2)\sqrt{u+1}/3[/tex]

 Sendo u=x^2, temos:

[tex](x^2-2)\sqrt{x^2+1}/3+C[/tex]

E esta é a integral que a questão pede.