Answer
$$y''=e^x\cos(x^2e^x)(2+4x+x^2)-\sin(x^2e^x)(2xe^x+x^2e^x)^2$$
Work Step by Step
$$y=\sin(x^2e^x)$$
- Find $y'$: $$y'=\cos(x^2e^x)(x^2e^x)'=\cos(x^2e^x)(2xe^x+x^2e^x)$$
- Find $y''$: $$y''=\Big(\cos(x^2e^x)\Big)'(2xe^x+x^2e^x)+\cos(x^2e^x)(2xe^x+x^2e^x)'$$ $$y''=-\sin(x^2e^x)(x^2e^x)'(2xe^x+x^2e^x)+\cos(x^2e^x)\Big(2(xe^x)'+(x^2e^x)'\Big)$$ $$y''=-\sin(x^2e^x)(2xe^x+x^2e^x)(2xe^x+x^2e^x)+\cos(x^2e^x)(2e^x+2xe^x+2xe^x+x^2e^x)$$ $$y''=-\sin(x^2e^x)(2xe^x+x^2e^x)^2+\cos(x^2e^x)(2e^x+4xe^x+x^2e^x)$$ $$y''=e^x\cos(x^2e^x)(2+4x+x^2)-\sin(x^2e^x)(2xe^x+x^2e^x)^2$$