Решение
Для начала отметим, что константу (т.е. число 5) можно вынести за знак производной:
\[
y'=\left(5\arctg^{3}(4\ln {x}) \right)'
=5\cdot\left(\arctg^{3}(4\ln {x}) \right)'
\]
Нужно найти производную функции \(\displaystyle{u^3}\), где \(\displaystyle{u=\arctg(4\ln{x})}\). Для этой цели используем формулу №2 из таблицы производных. Учтём, что степень \(\displaystyle{\alpha=3}\):
\[
5\cdot\left(\arctg^{3}(4\ln {x}) \right)'
=5\cdot{3}\cdot\arctg^{3-1}(4\ln{x})\cdot\left(\arctg(4\ln{x})\right)'
=15\cdot\arctg^{2}(4\ln{x})\cdot\left(\arctg(4\ln{x})\right)'
\]
Для нахождения \(\displaystyle{\left(\arctg(4\ln{x})\right)'}\) применим формулу №19 из таблицы производных, подставив в неё \(\displaystyle{u=4\ln{x}}\):
\[
15\cdot\arctg^{2}(4\ln{x})\cdot\left(\arctg(4\ln{x})\right)'
=15\cdot\arctg^{2}(4\ln{x})\cdot\frac{1}{1+(4\ln{x})^2}\cdot(4\ln{x})'
\]
Так как \(\displaystyle{(4\ln{x})'=4\cdot\left(\ln{x}\right)'}\) и \(\displaystyle{\left(\ln{x}\right)=\frac{1}{x}\cdot{x'}=\frac{1}{x}}\) (см. формулу №8 из таблицы производных), то получим:
\[
15\cdot\arctg^{2}(4\ln{x})\cdot\frac{1}{1+16\ln^2{x}}\cdot(4\ln{x})'
=15\cdot\arctg^{2}(4\ln{x})\cdot\frac{1}{1+16\ln^2{x}}\cdot{4}\cdot\frac{1}{x}
=\frac{60\arctg^{2}(4\ln{x})}{x\left(1+16\ln^2{x}\right)}
\]
Полное решение без пояснений будет таким:
\[
y'=\left(5\arctg^{3}(4\ln {x}) \right)'
=5\cdot\left(\arctg^{3}(4\ln {x}) \right)'=\\
=15\arctg^{2}(4\ln{x})\cdot\frac{1}{1+(4\ln{x})^2}\cdot(4\ln{x})'
=15\arctg^{2}(4\ln{x})\cdot\frac{1}{1+16\ln^2{x}}\cdot{4}\cdot\frac{1}{x}
=\frac{60\arctg^{2}(4\ln{x})}{x\left(1+16\ln^2{x}\right)}
\]