図Ａの△$\mathrm{ABC}$に正弦定理を使うと、
${\displaystyle \frac{\mathrm{AB}}{\sin \mathrm{\angle }\mathrm{ACB}}}=2R$
より
${\displaystyle \frac{6}{\sin \mathrm{\angle }\mathrm{ACB}}}=2\cdot 5$
とかける。

これを計算して、
$\sin \mathrm{\angle }\mathrm{ACB}={\displaystyle \frac{3}{5}}$
である。

解答サ：０

図Ａでは 点$\mathrm{C}$を緑の弧上にとったけど、オレンジの弧上にあっても ここまでの計算は変わらない。

次は$\cos \mathrm{\angle }\mathrm{ACB}$だ。

${\sin }^2\mathrm{\angle }\mathrm{ACB}+{\cos }^2\mathrm{\angle }\mathrm{ACB}=1$
は、サより
${\left({\displaystyle \frac{3}{5}}\right)}^2+{\cos }^2\mathrm{\angle }\mathrm{ACB}=1$
と表せる。

これを解いて、

途中式

${\cos }^2\mathrm{\angle }\mathrm{ACB}=1-{\left({\displaystyle \frac{3}{5}}\right)}^2$
$\phantom{{\cos }^2\mathrm{\angle }\mathrm{ACB}}={\displaystyle \frac{5^2-3^2}{5^2}}$
$\phantom{{\cos }^2\mathrm{\angle }\mathrm{ACB}}={\displaystyle \frac{4^2}{5^2}}$

$\cos \mathrm{\angle }\mathrm{ACB}=\pm {\displaystyle \frac{4}{5}}$式Ａ
である。

今は$\mathrm{\angle }\mathrm{ACB}$が鈍角のとき（点$\mathrm{C}$が図Ａのオレンジの弧上にあるとき）を問われているので、
$\cos \mathrm{\angle }\mathrm{ACB}<0$
だ。

よって、求める$\cos \mathrm{\angle }\mathrm{ACB}$は、式Ａの２つの値のうち
$\cos \mathrm{\angle }\mathrm{ACB}=-{\displaystyle \frac{4}{5}}$
である。

解答シ：７

次は、△$\mathrm{ABC}$の面積が最大であるときを考える。

図Ａより、このときの点$\mathrm{C}$は緑の弧上にあることは明らか。
なので、点$\mathrm{C}$が図Ａのオレンジの弧上にあるときは考えない。

△$\mathrm{ABC}$の底辺を$\mathrm{AB}$とする。
点$\mathrm{C}$の位置が変わると、△$\mathrm{ABC}$の
底辺は変わらない 高さは変わる ことになる。

なので、△$\mathrm{ABC}$の面積が最大になるのは、高さが最大のとき。
つまり、点$\mathrm{C}$と直線$\mathrm{AB}$の距離が最大のとき。

これは、図Ｂのように、点$\mathrm{C}$が
辺$\mathrm{AB}$と平行な直線が円$\mathrm{O}$と接するときの接点 であるときだ。
この、点$\mathrm{C}$を通る接線を$\ell$とする。

点$\mathrm{C}$から辺$\mathrm{AB}$に垂線を下ろし、その足を点$\mathrm{D}$とすると、
二本の赤い直線は平行なので、$\mathrm{CD}$⊥$\ell$ だから、$\mathrm{CD}$は接点を通り、接線と垂直な直線だ。

よって
$\mathrm{CD}$は円の中心$\mathrm{O}$を通る から、このときの図形は図Ｂのようになる。

図Ｂにおいて、$\mathrm{AO}=\mathrm{BO}=$円$\mathrm{O}$の半径なので
図中の青い三角形と黄色の三角形は合同 となり、
点$\mathrm{D}$は$\mathrm{AB}$の中点である △$\mathrm{ABC}$は$\mathrm{AC}=\mathrm{BC}$の二等辺三角形である ことが分かる。

ここまで分かったところで、問題を解こう。

まず問われているのは、$\tan \mathrm{\angle }\mathrm{OAD}$（図Ｃの赤丸の角）だ。

図Ｃの青い三角形は直角三角形だから、
$\tan \mathrm{\angle }\mathrm{OAD}={\displaystyle \frac{\mathrm{OD}}{\mathrm{AD}}}$式Ｂ
とかける。

青い三角形の辺は
$\mathrm{AD}={\displaystyle \frac{1}{2}}\mathrm{AB}=3$ $\mathrm{AO}=$円$\mathrm{O}$の半径$=5$ なので、辺の比が$3:4:5$だから、
$\mathrm{OD}=4$
だ。

よって、式Ｂは
$\tan \mathrm{\angle }\mathrm{OAD}={\displaystyle \frac{4}{3}}$
と書きなおせる。

解答ス：４

ここで
$\mathrm{CD}=\mathrm{OC}+\mathrm{OD}$
だけど、$\mathrm{OC}$は円$\mathrm{O}$の半径なので
$\mathrm{CD}=5+4=9$
だ。
これが△$\mathrm{ABC}$の高さにあたる。

以上より、このときの△$\mathrm{ABC}$の面積は、
△$\mathrm{ABC}={\displaystyle \frac{1}{2}}\cdot \mathrm{AB}\cdot \mathrm{CD}$
$={\displaystyle \frac{1}{2}}\cdot 6\cdot 9$
$=27$
である。

解答セ：２, ソ：７

まず、△$\mathrm{PQR}$の面積から。

△$\mathrm{PQR}$は、図Ｄのような形だ。

この△$\mathrm{PQR}$に余弦定理を使うと、
${\mathrm{QR}}^2={\mathrm{PQ}}^2+{\mathrm{PR}}^2-2\cdot \mathrm{PQ}\cdot \mathrm{PR}\cos \mathrm{\angle }\mathrm{QPR}$
より

途中式

$5^2=8^2+9^2-2\cdot 8\cdot 9\cos \mathrm{\angle }\mathrm{QPR}$
とかける。
これを計算して、
$2\cdot 8\cdot 9\cos \mathrm{\angle }\mathrm{QPR}=8^2+9^2-5^2$
$$\begin{array}{rl}\cos \mathrm{\angle }\mathrm{QPR}& ={\displaystyle \frac{8^2+(9+5)(9-5)}{2\cdot 8\cdot 9}}\\ & ={\displaystyle \frac{8^2+14\cdot 4}{2\cdot 8\cdot 9}}\\ & ={\displaystyle \frac{8+7}{2\cdot 9}}\\ & ={\displaystyle \frac{15}{2\cdot 9}}\end{array}$$ より

$\cos \mathrm{\angle }\mathrm{QPR}={\displaystyle \frac{5}{6}}$
である。

解答タ：５, チ：６

このとき、
${\sin }^2\mathrm{\angle }\mathrm{QPR}+{\left({\displaystyle \frac{5}{6}}\right)}^2=1$
だから

途中式

$$\begin{array}{rl}{\sin }^2\mathrm{\angle }\mathrm{QPR}& =1-{\left({\displaystyle \frac{5}{6}}\right)}^2\\ & ={\displaystyle \frac{6^2-5^2}{6^2}}\\ & ={\displaystyle \frac{11}{6^2}}\end{array}$$ なので

$\sin \mathrm{\angle }\mathrm{QPR}={\displaystyle \frac{\sqrt{11}}{6}}$
となる。

よって、△$\mathrm{PQR}$の面積は、
△$\mathrm{PQR}={\displaystyle \frac{1}{2}}\mathrm{PQ}\cdot \mathrm{PR}\sin \mathrm{\angle }\mathrm{QPR}$
より
△$\mathrm{PQR}={\displaystyle \frac{1}{2}}\cdot 8\cdot 9\cdot {\displaystyle \frac{\sqrt{11}}{6}}$
と表せる。

これを計算して、
△$\mathrm{PQR}=6\sqrt{11}$
である。

解答ツ：６, テ:１, ト：１

ここから先は初めて見る感じの問題かも知れない。
けれど、焦らなくても大丈夫。
共通テストやセンター試験によくある、前の問題がヒントになっているパターンだ。
(1)の(ii)での作業を思い出して、同じことをしてみよう。

(1)(ii)の図Ｂと同様に考えよう。

三角錐$\mathrm{TPQR}$の底面を△$\mathrm{PQR}$とする。
点$\mathrm{T}$の位置が変わると、三角錐$\mathrm{TPQR}$の
底面積は変わらない 高さは変わる ことになる。

なので、三角錐$\mathrm{TPQR}$の体積が最大になるのは、高さが最大のとき。
つまり、点$\mathrm{T}$と平面$\alpha$の距離が最大のとき。

これは、図Ｅのように、点$\mathrm{T}$が
平面$\alpha$と平行な平面が球$\mathrm{S}$と接するときの接点 であるときだ。

この、点$\mathrm{T}$を通る平面を$\beta$とする。

点$\mathrm{T}$から平面$\alpha$に垂線を下ろし、その足を点$\mathrm{H}$とすると、
平面$\alpha$と平面$\beta$は平行なので、$\mathrm{TH}$⊥$\beta$ だから、$\mathrm{TH}$は接点を通り、接する面と垂直な直線だ。

よって、
$\mathrm{TH}$は球の中心$\mathrm{S}$を通る から、$\mathrm{PS}=\mathrm{QS}=\mathrm{RS}=$球$\mathrm{S}$の半径であり、
図中の青，黄，オレンジの３つの三角形は合同 である。

したがって、
$\mathrm{PH}=\mathrm{QH}=\mathrm{RH}$ だ。

解答ナ：６

このことから、
点$\mathrm{H}$は△$\mathrm{PQR}$の外心である ことが分かる。

次は、(1)(ii)と同様に、青い直角三角形を使って$\mathrm{HS}$を求める。
そのために、まず$\mathrm{PS}$と$\mathrm{PH}$を求めよう。

よって、三平方の定理より
${\mathrm{HS}}^2={\mathrm{PS}}^2-{\mathrm{PH}}^2$

途中式

$\phantom{{\mathrm{HS}}^2}=5^2-{\left({\displaystyle \frac{15}{\sqrt{11}}}\right)}^2$
$\phantom{{\mathrm{HS}}^2}=5^2\{1^2-{\left({\displaystyle \frac{3}{\sqrt{11}}}\right)}^2\}$
$\phantom{{\mathrm{HS}}^2}=5^2\cdot {\displaystyle \frac{11-9}{11}}$
$\phantom{{\mathrm{HS}}^2}=5^2\cdot {\displaystyle \frac{2}{11}}$

となるから、
$\mathrm{HS}=5\sqrt{{\displaystyle \frac{2}{11}}}$
である。

ここまでくると勝ったも同然。
あとは単なる計算だ。

$\mathrm{TH}=\mathrm{TS}+\mathrm{HS}$
だけど、$\mathrm{TS}$は球$\mathrm{S}$の半径なので
$\mathrm{TH}=5+5\sqrt{{\displaystyle \frac{2}{11}}}$
$\phantom{\mathrm{TH}}=5(1+\sqrt{{\displaystyle \frac{2}{11}}})$
である。
これが三角錐$\mathrm{TPQR}$の高さにあたる。

以上より、このときの三角錐$\mathrm{TPQR}$の体積は、
四角錐$\mathrm{TPQR}={\displaystyle \frac{1}{3}}\cdot$△$\mathrm{PQR}\cdot \mathrm{TH}$

途中式

$={\displaystyle \frac{1}{3}}\cdot 6\sqrt{11}\cdot 5(1+\sqrt{{\displaystyle \frac{2}{11}}})$
$=10\sqrt{11}(1+\sqrt{{\displaystyle \frac{2}{11}}})$

$=10(\sqrt{11}+\sqrt{2})$
である。

解答ニ：１, ヌ：０, ネ：１, ノ：１, ハ：２