Возведём обе части равенства  \(tg\alpha =\frac{\sqrt{21}}{2}\)  в квадрат и из основного тригонометрического тождества  выразим  \(\sin ^{2}\alpha \) :

\(tg^{2}\alpha =\frac{21}{4}\Rightarrow \frac{\sin ^{2}\alpha }{\cos ^{2}\alpha }=\frac{21}{4}\Rightarrow 4\sin ^{2}\alpha =21\cos ^{2}\alpha \Rightarrow 4-4\cos ^{2}\alpha =21\cos ^{2}\alpha \Rightarrow 25\cos ^{2}\alpha =4\),

откуда  \(\cos ^{2}\alpha =\frac{4}{25}\Rightarrow \cos \alpha =\pm 0,4\) . Учитывая, что  \(\alpha \in \left ( \pi ;\frac{3\pi }{2} \right )\), (т.е. третья четверть) окончательно получаем

\(\cos \alpha =-0,4\) .