まず、２倍角の公式の復習をしよう。

公式

$\sin 2\theta =2\sin \theta \cos \theta$
$\cos 2\theta ={\cos }^2\theta -{\sin }^2\theta$式Ａ
$\cos 2\theta$$=1-2{\sin }^2\theta$
$\cos 2\theta$$=2{\cos }^2\theta -1$式Ｂ
${\displaystyle \tan 2\theta =\frac{2\tan \theta }{1-{\tan }^2\theta }}$

①式に式Ｂを代入して、
$(2{\displaystyle {\cos }^2\alpha -1)+(2{\cos }^2\beta -1)=\frac{4}{15}}$式Ｃ
$2{\displaystyle {\cos }^2\alpha +2{\cos }^2\beta =\frac{4}{15}+2}$
$2{\displaystyle {\cos }^2\alpha +2{\cos }^2\beta }$${\displaystyle =\frac{34}{15}}$
${\displaystyle {\cos }^2\alpha +{\cos }^2\beta =\frac{17}{15}}$式Ｄ
である。

解答ア：１, イ：７, ウ：１, エ：５

別解

公式の式Ｂじゃなくて、式Ａを使うと
①式に式Ａを代入して、
$({\displaystyle {\cos }^2\alpha -{\sin }^2\alpha )+({\cos }^2\beta -{\sin }^2\beta )=\frac{4}{15}}$
この式に
${\sin }^2\alpha +{\cos }^2\alpha =1$より、
${\sin }^2\alpha =1-{\cos }^2\alpha$
${\sin }^2\beta +{\cos }^2\beta =1$より、
${\sin }^2\beta =1-{\cos }^2\beta$
を代入して、
${\displaystyle \{{\cos }^2\alpha -(1-{\cos }^2\alpha )\}+\{{\cos }^2\beta -(1-{\cos }^2\beta )\}=\frac{4}{15}}$
$(2{\displaystyle {\cos }^2\alpha -1)+(2{\cos }^2\beta -1)=\frac{4}{15}}$
となり、ひと手間かかるけど、式Ｃができる。

②式の両辺を２乗して、
${\displaystyle {\cos }^2\alpha {\cos }^2\beta =\frac{4\cdot 15}{{15}^2}}$
${\displaystyle {\cos }^2\alpha {\cos }^2\beta }$${\displaystyle =\frac{4}{15}}$式Ｅ
である。

解答オ：４

以下、式を単純化するために、${\cos }^2\alpha$を$A$，${\cos }^2\beta$を$B$と書く。
式Ｄと式Ｅの連立方程式は
$\{\begin{array}{l}A+B=\frac{17}{15}\\ AB=\frac{4}{15}\end{array}$
と書ける。
これを解く。

上の式より、
$B={\displaystyle \frac{17}{15}-A}$
これを下の式に代入して、
$A{\displaystyle (\frac{17}{15}-A)=\frac{4}{15}}$
${\displaystyle \frac{17}{15}A-A^2=\frac{4}{15}}$
$17A-15A^2=4$
$15A^2-17A+4=0$
$(3A-1)(5A-4)=0$
$A={\displaystyle \frac{1}{3}}$，${\displaystyle \frac{4}{5}}$
である。

これを下の式に代入して、
$A={\displaystyle \frac{1}{3}}$のとき、
${\displaystyle \frac{1}{3}B=\frac{4}{15}}$
$B={\displaystyle \frac{4}{5}}$
$A={\displaystyle \frac{4}{5}}$のとき、
${\displaystyle \frac{4}{5}B=\frac{4}{15}}$
$B={\displaystyle \frac{1}{3}}$
となるから、
$A={\displaystyle \frac{1}{3}}$，$B={\displaystyle \frac{4}{5}}$式Ｆ
または
$A={\displaystyle \frac{4}{5}}$，$B={\displaystyle \frac{1}{3}}$
である。

ここで、③式より
$|\cos \alpha |\geqq |\cos \beta |$
である。
この式の両辺とも$0$以上なので、両辺を２乗して、
$|\cos \alpha {|}^2\geqq |\cos \beta {|}^2$
${\cos }^2\alpha \geqq {\cos }^2\beta$
$A\geqq B$
であるから、上の解の式Ｆは不適。

以上より、
$A={\displaystyle \frac{4}{5}}$，$B={\displaystyle \frac{1}{3}}$
なので、
${\displaystyle {\cos }^2\alpha =\frac{4}{5}}$，${\displaystyle {\cos }^2\beta =\frac{1}{3}}$式Ｇ
である。

解答カ：４, キ：５, ク：１, ケ：３

式Ｇより、
${\displaystyle {\cos }^2\alpha =\frac{4}{5}}$
${\displaystyle \cos \alpha =\pm \frac{2}{\sqrt{5}}}$
${\displaystyle {\cos }^2\beta =\frac{1}{3}}$
${\displaystyle \cos \beta =\pm \frac{1}{\sqrt{3}}}$
である。

ここで、②式より
$\cos \alpha \cos \beta <0$
より、$\cos \alpha$と$\cos \beta$は異符号だから、
${\displaystyle \cos \alpha =\frac{2}{\sqrt{5}}}$，${\displaystyle \cos \beta =-\frac{1}{\sqrt{3}}}$ ${\displaystyle \cos \alpha =-\frac{2}{\sqrt{5}}}$，${\displaystyle \cos \beta =\frac{1}{\sqrt{3}}}$式Ｈ のいずれか。

でも、$0\leqq \alpha \leqq \pi$，$0\leqq \beta \leqq \pi$なので、式Ｈのときは
$\cos \alpha <\cos \beta$
より
$\beta <\alpha$
になってしまうので、不適。

よって、
$\{\begin{array}{l}\cos \alpha =\frac{2}{\sqrt{5}}\\ \cos \beta =-\frac{1}{\sqrt{3}}\end{array}$
の分母を有理化して、
$\{\begin{array}{l}\cos \alpha =\frac{2\sqrt{5}}{5}\\ \cos \beta =-\frac{\sqrt{3}}{3}\end{array}$
である。

解答コ：２, サ：５, シ：５, ス：－, セ：３, ソ：３