Наиболее прямолинеен метод дифференцирования по параметру, потому что $x^a\ln x={\partial }_a{x}^a$, т.е. интеграл получается как производная от более простого интеграла.
Краткое вычисление:
определим $J(a)={\int }_0^1{x}^{a}dx=\frac{1}{a+1}$ при $a>-1$. Тогда
$$I(a)={\int }_0^1{x}^a\ln xdx=\frac{d}{da}{\int }_0^1{x}^{a}dx=\frac{d}{da}J(a)=-\frac{1}{(a+1{)}^2}.$$
Перемежение дифференцирования и интегрирования допустимо при $a>-1$ (например, по признаку доминированной сходимости, так как $|x^a\ln x|$ интегрируема на $(0,1)$).