まず、$\cos \mathrm{\angle }\mathrm{ABC}$から。

${\sin }^2\mathrm{\angle }\mathrm{ABC}+{\cos }^2\mathrm{\angle }\mathrm{ABC}=1$
なので、
${\left({\displaystyle \frac{\sqrt{15}}{4}}\right)}^2+{\cos }^2\mathrm{\angle }\mathrm{ABC}=1$
とかける。

これを変形すると
$$\begin{array}{rl}{\cos }^2\mathrm{\angle }\mathrm{ABC}& =1-{\left({\displaystyle \frac{\sqrt{15}}{4}}\right)}^2\\ & ={\displaystyle \frac{4^2-{\sqrt{15}}^2}{4^2}}\\ & ={\displaystyle \frac{1}{4^2}}\end{array}$$ となる。

よって、
$\cos \mathrm{\angle }\mathrm{ABC}=\pm {\displaystyle \frac{1}{4}}$
である。

解答サ：１, シ：４

$\mathrm{BC}=1$，$\sin \mathrm{\angle }\mathrm{ABC}={\displaystyle \frac{\sqrt{15}}{4}}$，$\sin \mathrm{\angle }\mathrm{ACB}={\displaystyle \frac{\sqrt{15}}{8}}$であるような△$\mathrm{ABC}$は、図Ａの２種類存在する。

$\mathrm{AB}$と$\mathrm{AC}$の関係を求める。

△$\mathrm{ABC}$において、正弦定理より
${\displaystyle \frac{\mathrm{AC}}{\sin \mathrm{\angle }\mathrm{ABC}}}={\displaystyle \frac{\mathrm{AB}}{\sin \mathrm{\angle }\mathrm{ACB}}}$
と表せる。

これを計算して、
${\displaystyle \frac{\mathrm{AC}}{\frac{\sqrt{15}}{4}}}={\displaystyle \frac{\mathrm{AB}}{\frac{\sqrt{15}}{8}}}$
より
${\displaystyle \frac{\sqrt{15}}{8}}\mathrm{AC}={\displaystyle \frac{\sqrt{15}}{4}}\mathrm{AB}$
$\mathrm{AC}=2\mathrm{AB}$
である。

解答ス：２

次は$\mathrm{AB}$の値だ。

△$\mathrm{ABC}$において、余弦定理より
${\mathrm{AC}}^2={\mathrm{AB}}^2+{\mathrm{BC}}^2-2\mathrm{AB}\cdot \mathrm{BC}\cos \mathrm{\angle }\mathrm{ABC}$式Ａ
とかける。

ここで、
$\{\begin{array}{l}\mathrm{BC}=1\\ \mathrm{AC}=2\mathrm{AB}\end{array}$

なので、式Ａは
$(2\mathrm{AB}{)}^2={\mathrm{AB}}^2+1^2-2\mathrm{AB}\cdot 1\cdot \cos \mathrm{\angle }\mathrm{ABC}$
式Ｂ
と表せる。

図Ａのふたつの三角形で、面積が大きいのは左側。

この三角形の場合、
${90}^{\circ }<\mathrm{\angle }\mathrm{ABC}$
だから、
$\cos \mathrm{\angle }\mathrm{ABC}<0$
だ。

なので、(1)で求めた
$\cos \mathrm{\angle }\mathrm{ABC}=\pm {\displaystyle \frac{1}{4}}$
のうち、この三角形に当てはまるのは
$\cos \mathrm{\angle }\mathrm{ABC}=-{\displaystyle \frac{1}{4}}$
である。

これを式Ｂに代入して、
$(2\mathrm{AB}{)}^2={\mathrm{AB}}^2+1^2-2\mathrm{AB}\cdot 1\cdot (-{\displaystyle \frac{1}{4}})$

これを解いて
$4{\mathrm{AB}}^2={\mathrm{AB}}^2+1+{\displaystyle \frac{1}{2}}\mathrm{AB}$

途中式

$6{\mathrm{AB}}^2-\mathrm{AB}-2=0$
$(3\mathrm{AB}-2)(2\mathrm{AB}+1)=0$

$\mathrm{AB}=-{\displaystyle \frac{1}{2}}$，${\displaystyle \frac{2}{3}}$
だけど、$\mathrm{AB}$は辺の長さなので負の値は不適。
$\mathrm{AB}={\displaystyle \frac{2}{3}}$
である。

解答セ：２, ソ：３

(2)(i)と同様に考えて、正弦定理
${\displaystyle \frac{\mathrm{AC}}{\sin \mathrm{\angle }\mathrm{ABC}}}={\displaystyle \frac{\mathrm{AB}}{\sin \mathrm{\angle }\mathrm{ACB}}}$
に
$\sin \mathrm{\angle }\mathrm{ABC}=2\sin \mathrm{\angle }\mathrm{ACB}$
を代入すると、
${\displaystyle \frac{\mathrm{AC}}{2\sin \mathrm{\angle }\mathrm{ACB}}}={\displaystyle \frac{\mathrm{AB}}{\sin \mathrm{\angle }\mathrm{ACB}}}$
より
$\mathrm{AC}=2\mathrm{AB}$
となる。

なので、このときの三角形は
$\{\begin{array}{l}\mathrm{BC}=1\\ \mathrm{AC}=2\mathrm{AB}\end{array}$
だから、(2)(ii)の
$(2\mathrm{AB}{)}^2={\mathrm{AB}}^2+1^2-2\mathrm{AB}\cdot 1\cdot \cos \mathrm{\angle }\mathrm{ABC}$式Ｂ
はそのまま使える。

式Ｂを変形すると
$2\mathrm{AB}\cos \mathrm{\angle }\mathrm{ABC}=1-3{\mathrm{AB}}^2$
$\cos \mathrm{\angle }\mathrm{ABC}={\displaystyle \frac{1-3{\mathrm{AB}}^2}{2\mathrm{AB}}}$式Ｃ
となる。

解答タ：１, チ：３

アドバイス

ここで、突然 面積$S$の２乗とか、${\mathrm{AB}}^2$を$x$とおくとか、あまり見ない話になってるけど 大丈夫。
式Ｃを使うことは想像がつく上に、${\mathrm{AB}}^2=x$とおくように指示があるので、式Ｃの右辺の分母もきっと２乗にするのだ。
ということは、式Ｃの両辺を２乗して
${\cos }^2\mathrm{\angle }\mathrm{ABC}={\left({\displaystyle \frac{1-3{\mathrm{AB}}^2}{2\mathrm{AB}}}\right)}^2$
とするのだ。

こうなると、次に考えられることは
${\sin }^2\mathrm{\angle }\mathrm{ABC}+{\cos }^2\mathrm{\angle }\mathrm{ABC}=1$
を使って${\sin }^2\mathrm{\angle }\mathrm{ABC}$を作るんだろうということ。

この方針でやってみよう。

アドバイスの方針で${\sin }^2\mathrm{\angle }\mathrm{ABC}$を求めると、
${\sin }^2\mathrm{\angle }\mathrm{ABC}=1-{\left({\displaystyle \frac{1-3{\mathrm{AB}}^2}{2\mathrm{AB}}}\right)}^2$
$\phantom{{\sin }^2\mathrm{\angle }\mathrm{ABC}}={\displaystyle \frac{4{\mathrm{AB}}^2-(1-3{\mathrm{AB}}^2{)}^2}{4{\mathrm{AB}}^2}}$式Ｄ
となる。

この式を使いたい。
ということは、きっと、三角形の面積の公式のうち$\sin \mathrm{\angle }\mathrm{ABC}$が含まれる
$S={\displaystyle \frac{1}{2}}\cdot \mathrm{AB}\cdot \mathrm{BC}\sin \mathrm{\angle }\mathrm{ABC}$
を使うんだろう。

$\mathrm{BC}=1$なので、
$S={\displaystyle \frac{1}{2}}\cdot \mathrm{AB}\sin \mathrm{\angle }\mathrm{ABC}$

この式の両辺を２乗すると
$$\begin{array}{rl}{S}^2& ={\left({\displaystyle \frac{1}{2}}\right)}^2{\mathrm{AB}}^2{\sin }^2\mathrm{\angle }\mathrm{ABC}\\ & ={\displaystyle \frac{1}{4}}{\mathrm{AB}}^2{\sin }^2\mathrm{\angle }\mathrm{ABC}\end{array}$$ となって、式Ｄが代入できるようになった。

これに式Ｄを代入して、
$S^2={\displaystyle \frac{1}{4}}{\mathrm{AB}}^2\cdot {\displaystyle \frac{4{\mathrm{AB}}^2-(1-3{\mathrm{AB}}^2{)}^2}{4{\mathrm{AB}}^2}}$

${\mathrm{AB}}^2=x$とおくと、この式は
$S^2={\displaystyle \frac{1}{4}}x\cdot {\displaystyle \frac{4x-(1-3x{)}^2}{4x}}$

途中式

$$\begin{array}{rl}\phantom{S^2}& ={\displaystyle \frac{1}{16}}\{4x-(1-3x{)}^2\}\\ & ={\displaystyle \frac{1}{16}}(4x-1+6x-9x^2)\\ & ={\displaystyle \frac{1}{16}}(-9x^2+10x-1)\\ & =-{\displaystyle \frac{9}{16}}{x}^2+{\displaystyle \frac{10}{16}}x-{\displaystyle \frac{1}{16}}\end{array}$$

$\phantom{S^2}=-{\displaystyle \frac{9}{16}}{x}^2+{\displaystyle \frac{5}{8}}x-{\displaystyle \frac{1}{16}}$式Ｅ
とかける。

解答ツ：９, テ：１, ト：６, ナ：５, ニ：８

式Ｅのグラフは、上に凸の放物線だ。
なので、頂点が定義域に含まれれば、$S^2$が最大になるのは頂点のとき。
というわけで、頂点の$x$座標を求める。

式Ｅを平方完成するのは面倒なので、

復習

$y=a{x}^2+bx+c$のグラフの頂点の$x$座標は
$x={\displaystyle \frac{-b}{2a}}$

を使う。

復習より、式Ｅのグラフの頂点の$x$座標は
$$\begin{array}{rl}x& ={\displaystyle \frac{-\frac{5}{8}}{2(-\frac{9}{16})}}\\ & ={\displaystyle \frac{5}{9}}\end{array}$$ となる。

ここで、
$x={\mathrm{AB}}^2$
だけど、

だから
${\displaystyle \frac{1}{3}}<\mathrm{AB}<1$
より
${\displaystyle \frac{1}{9}}<x<1$
となるので、${\displaystyle \frac{5}{9}}$は定義域に含まれる。

よって、$S^2$が最大になるのは
$x={\displaystyle \frac{5}{9}}$
のとき。

解答ヌ：５, ネ：９

このとき、
${\mathrm{AB}}^2={\displaystyle \frac{5}{9}}$
より
$\mathrm{AB}=\pm {\displaystyle \frac{\sqrt{5}}{3}}$
だけど、$\mathrm{AB}$は辺の長さなので
$\mathrm{AB}={\displaystyle \frac{\sqrt{5}}{3}}$
である。

解答ノ：５, ハ：３

以上より、△$\mathrm{ABC}$の各辺が
$\{\begin{array}{l}\mathrm{AB}={\displaystyle \frac{\sqrt{5}}{3}}\\ \mathrm{BC}=1\\ \mathrm{AC}={\displaystyle \frac{2\sqrt{5}}{3}}\end{array}$
のとき、面積$S$は最大になる。

このとき、

であることが分かる。