まず、２倍角の公式の復習をしよう。

公式

$\sin 2\theta=2\sin\theta\cos\theta$
$\cos 2\theta=\cos^{2}\theta-\sin^{2}\theta$式Ａ
$\cos 2\theta$$=1-2\sin^{2}\theta$
$\cos 2\theta$$=2\cos^{2}\theta-1$式Ｂ
$\displaystyle \tan 2\theta=\frac{2\tan\theta}{1-\tan^{2}\theta}$

①式に式Ｂを代入して、
$(2\displaystyle \cos^{2}\alpha-1)+(2\cos^{2}\beta-1)=\frac{4}{15}$式Ｃ
$2\displaystyle \cos^{2}\alpha+2\cos^{2}\beta=\frac{4}{15}+2$
$2\displaystyle \cos^{2}\alpha+2\cos^{2}\beta$$\displaystyle =\frac{34}{15}$
$\displaystyle \cos^{2}\alpha+\cos^{2}\beta=\frac{17}{15}$式Ｄ
である。

解答ア：１, イ：７, ウ：１, エ：５

別解

公式の式Ｂじゃなくて、式Ａを使うと
①式に式Ａを代入して、
$(\displaystyle \cos^{2}\alpha-\sin^{2}\alpha)+(\cos^{2}\beta-\sin^{2}\beta)=\frac{4}{15}$
この式に
$\sin^{2}\alpha+\cos^{2}\alpha=1$より、
$\sin^{2}\alpha=1-\cos^{2}\alpha$
$\sin^{2}\beta+\cos^{2}\beta=1$より、
$\sin^{2}\beta=1-\cos^{2}\beta$
を代入して、
$\displaystyle \{\cos^{2}\alpha-(1-\cos^{2}\alpha)\}+\{\cos^{2}\beta-(1-\cos^{2}\beta)\}=\frac{4}{15}$
$(2\displaystyle \cos^{2}\alpha-1)+(2\cos^{2}\beta-1)=\frac{4}{15}$
となり、ひと手間かかるけど、式Ｃができる。

②式の両辺を２乗して、
$\displaystyle \cos^{2}\alpha\cos^{2}\beta=\frac{4\cdot 15}{15^{2}}$
$\displaystyle \cos^{2}\alpha\cos^{2}\beta$$\displaystyle =\frac{4}{15}$式Ｅ
である。

解答オ：４

以下、式を単純化するために、$\cos^{2}\alpha$を$A$，$\cos^{2}\beta$を$B$と書く。
式Ｄと式Ｅの連立方程式は
$\left\{\begin{array}{l}
A+B=\frac{17}{15}\\
AB=\frac{4}{15}
\end{array}\right.$
と書ける。
これを解く。

上の式より、
$B=\displaystyle \frac{17}{15}-A$
これを下の式に代入して、
$A\displaystyle \left(\frac{17}{15}-A\right)=\frac{4}{15}$
$\displaystyle \frac{17}{15}A-A^{2}=\frac{4}{15}$
$17A-15A^{2}=4$
$15A^{2}-17A+4=0$
$(3A-1)(5A-4)=0$
$A=\displaystyle \frac{1}{3}$，$\displaystyle \frac{4}{5}$
である。

これを下の式に代入して、
$A=\displaystyle \frac{1}{3}$のとき、
$\displaystyle \frac{1}{3}B=\frac{4}{15}$
$B=\displaystyle \frac{4}{5}$
$A=\displaystyle \frac{4}{5}$のとき、
$\displaystyle \frac{4}{5}B=\frac{4}{15}$
$B=\displaystyle \frac{1}{3}$
となるから、
$A=\displaystyle \frac{1}{3}$，$B=\displaystyle \frac{4}{5}$式Ｆ
または
$A=\displaystyle \frac{4}{5}$，$B=\displaystyle \frac{1}{3}$
である。

ここで、③式より
$|\cos\alpha|\geqq|\cos\beta|$
である。
この式の両辺とも$0$以上なので、両辺を２乗して、
$|\cos\alpha|^{2}\geqq|\cos\beta|^{2}$
$\cos^{2}\alpha\geqq\cos^{2}\beta$
$A\geqq B$
であるから、上の解の式Ｆは不適。

以上より、
$A=\displaystyle \frac{4}{5}$，$B=\displaystyle \frac{1}{3}$
なので、
$\displaystyle \cos^{2}\alpha=\frac{4}{5}$，$\displaystyle \cos^{2}\beta=\frac{1}{3}$式Ｇ
である。

解答カ：４, キ：５, ク：１, ケ：３

式Ｇより、
$\displaystyle \cos^{2}\alpha=\frac{4}{5}$
$\displaystyle \cos\alpha=\pm\frac{2}{\sqrt{5}}$
$\displaystyle \cos^{2}\beta=\frac{1}{3}$
$\displaystyle \cos\beta=\pm\frac{1}{\sqrt{3}}$
である。

ここで、②式より
$\cos\alpha\cos\beta \lt 0$
より、$\cos\alpha$と$\cos\beta$は異符号だから、
$\displaystyle \cos\alpha=\frac{2}{\sqrt{5}}$，$\displaystyle \cos\beta=-\frac{1}{\sqrt{3}}$ $\displaystyle \cos\alpha=-\frac{2}{\sqrt{5}}$，$\displaystyle \cos\beta=\frac{1}{\sqrt{3}}$式Ｈ のいずれか。

でも、$ 0\leqq\alpha\leqq\pi$，$ 0\leqq\beta\leqq\pi$なので、式Ｈのときは
$\cos\alpha \lt \cos\beta$
より
$\beta \lt \alpha$
になってしまうので、不適。

よって、
$\left\{\begin{array}{l}
\cos\alpha=\frac{2}{\sqrt{5}}\\
\cos\beta=-\frac{1}{\sqrt{3}}
\end{array}\right.$
の分母を有理化して、
$\left\{\begin{array}{l}
\cos\alpha=\frac{2\sqrt{5}}{5}\\
\cos\beta=-\frac{\sqrt{3}}{3}
\end{array}\right.$
である。

解答コ：２, サ：５, シ：５, ス：－, セ：３, ソ：３