Решение во вложении. Удачи

а(3а-8)-(а-4)^2 , а=корень из 6

раскрываем скобки 3а^2-8a-(a^2-8a+16)=3a^2-8a-a^2+8a-16=2a^2-16

вместо а подставляем корень из 6 2*6-16=12-16=-4