まず、$\cos \angle \mathrm{ABC}$から。

$\sin^{2}\angle \mathrm{ABC}+\cos^{2}\angle \mathrm{ABC}=1$
なので、
$\left(\dfrac{\sqrt{15}}{4}\right)^{2}+\cos^{2}\angle \mathrm{ABC}=1$
とかける。

これを変形すると
$$ \begin{align} \cos^{2}\angle \mathrm{ABC}&=1-\left(\dfrac{\sqrt{15}}{4}\right)^{2}\\ &=\dfrac{4^{2}-\sqrt{15}^{2}}{4^{2}}\\ &=\dfrac{1}{4^{2}} \end{align} $$ となる。

よって、
$\cos\angle \mathrm{ABC}=\pm\dfrac{1}{4}$
である。

解答サ：１, シ：４

$\mathrm{BC}=1$，$\sin\angle \mathrm{ABC}=\dfrac{\sqrt{15}}{4}$，$\sin\angle \mathrm{ACB}=\dfrac{\sqrt{15}}{8}$であるような△$\mathrm{ABC}$は、図Ａの２種類存在する。

$\mathrm{AB}$と$\mathrm{AC}$の関係を求める。

△$\mathrm{ABC}$において、正弦定理より
$\dfrac{\mathrm{AC}}{\sin\angle \mathrm{ABC}}=\dfrac{\mathrm{AB}}{\sin\angle \mathrm{ACB}}$
と表せる。

これを計算して、
$\dfrac{\mathrm{AC}}{\cfrac{\sqrt{15}}{4}}=\dfrac{\mathrm{AB}}{\cfrac{\sqrt{15}}{8}}$
より
$\dfrac{\sqrt{15}}{8}\mathrm{AC}=\dfrac{\sqrt{15}}{4}\mathrm{AB}$
$\mathrm{AC}=2\mathrm{AB}$
である。

解答ス：２

次は$\mathrm{AB}$の値だ。

△$\mathrm{ABC}$において、余弦定理より
$\mathrm{AC}^{2}=\mathrm{AB}^{2}+\mathrm{BC}^{2}-2\mathrm{AB}\cdot \mathrm{BC}\cos\angle \mathrm{ABC}$式Ａ
とかける。

ここで、
$\left\{\begin{array}{l}
\mathrm{BC}=1\\
\mathrm{AC}=2\mathrm{AB}
\end{array}\right.$

なので、式Ａは
$(2\mathrm{AB})^{2}=\mathrm{AB}^{2}+1^{2}-2\mathrm{AB}\cdot 1\cdot\cos\angle \mathrm{ABC}$
式Ｂ
と表せる。

図Ａのふたつの三角形で、面積が大きいのは左側。

この三角形の場合、
$90^{\circ} \lt \angle \mathrm{ABC}$
だから、
$\cos\angle \mathrm{ABC} \lt 0$
だ。

なので、(1)で求めた
$\cos\angle \mathrm{ABC}=\pm\dfrac{1}{4}$
のうち、この三角形に当てはまるのは
$\cos\angle \mathrm{ABC}=-\dfrac{1}{4}$
である。

これを式Ｂに代入して、
$(2\mathrm{AB})^{2}=\mathrm{AB}^{2}+1^{2}-2\mathrm{AB}\cdot 1\cdot\left(-\dfrac{1}{4}\right)$

これを解いて
$4\mathrm{AB}^{2}=\mathrm{AB}^{2}+1+\dfrac{1}{2}\mathrm{AB}$

途中式

$6\mathrm{AB}^{2}-\mathrm{AB}-2=0$
$(3\mathrm{AB}-2)(2\mathrm{AB}+1)=0$

$\mathrm{AB}=-\dfrac{1}{2}$，$\dfrac{2}{3}$
だけど、$\mathrm{AB}$は辺の長さなので負の値は不適。
$\mathrm{AB}=\dfrac{2}{3}$
である。

解答セ：２, ソ：３

(2)(i)と同様に考えて、正弦定理
$\dfrac{\mathrm{AC}}{\sin\angle \mathrm{ABC}}=\dfrac{\mathrm{AB}}{\sin\angle \mathrm{ACB}}$
に
$\sin\angle \mathrm{ABC}=2\sin\angle \mathrm{ACB}$
を代入すると、
$\dfrac{\mathrm{AC}}{2\sin\angle \mathrm{ACB}}=\dfrac{\mathrm{AB}}{\sin\angle \mathrm{ACB}}$
より
$\mathrm{AC}=2\mathrm{AB}$
となる。

なので、このときの三角形は
$\left\{\begin{array}{l} \mathrm{BC}=1\\ \mathrm{AC}=2\mathrm{AB} \end{array}\right.$
だから、(2)(ii)の
$(2\mathrm{AB})^{2}=\mathrm{AB}^{2}+1^{2}-2\mathrm{AB}\cdot 1\cdot\cos\angle \mathrm{ABC}$式Ｂ
はそのまま使える。

式Ｂを変形すると
$2\mathrm{AB}\cos\angle \mathrm{ABC}=1-3\mathrm{AB}^{2}$
$\cos\angle \mathrm{ABC}=\dfrac{1-3\mathrm{AB}^{2}}{2\mathrm{AB}}$式Ｃ
となる。

解答タ：１, チ：３

アドバイス

ここで、突然 面積$S$の２乗とか、$\mathrm{AB}^{2}$を$x$とおくとか、あまり見ない話になってるけど 大丈夫。
式Ｃを使うことは想像がつく上に、$\mathrm{AB}^{2}=x$とおくように指示があるので、式Ｃの右辺の分母もきっと２乗にするのだ。
ということは、式Ｃの両辺を２乗して
$\cos^{2}\angle \mathrm{ABC}=\left(\dfrac{1-3\mathrm{AB}^{2}}{2\mathrm{AB}}\right)^{2}$
とするのだ。

こうなると、次に考えられることは
$\sin^{2}\angle \mathrm{ABC}+\cos^{2}\angle \mathrm{ABC}=1$
を使って$\sin^{2}\angle \mathrm{ABC}$を作るんだろうということ。

この方針でやってみよう。

アドバイスの方針で$\sin^{2}\angle \mathrm{ABC}$を求めると、
$\sin^{2}\angle \mathrm{ABC}=1-\left(\dfrac{1-3\mathrm{AB}^{2}}{2\mathrm{AB}}\right)^{2}$
$\phantom{\sin^{2}\angle \mathrm{ABC}}=\dfrac{4\mathrm{AB}^{2}-(1-3\mathrm{AB}^{2})^{2}}{4\mathrm{AB}^{2}}$式Ｄ
となる。

この式を使いたい。
ということは、きっと、三角形の面積の公式のうち$\sin\angle \mathrm{ABC}$が含まれる
$S=\dfrac{1}{2}\cdot \mathrm{AB}\cdot \mathrm{BC}\sin\angle \mathrm{ABC}$
を使うんだろう。

$\mathrm{BC}=1$なので、
$S=\dfrac{1}{2}\cdot \mathrm{AB}\sin\angle \mathrm{ABC}$

この式の両辺を２乗すると
$$ \begin{align} S^{2}&=\left(\dfrac{1}{2}\right)^{2} \mathrm{AB}^{2}\sin^{2}\angle \mathrm{ABC}\\ &=\dfrac{1}{4} \mathrm{AB}^{2}\sin^{2}\angle \mathrm{ABC} \end{align} $$ となって、式Ｄが代入できるようになった。

これに式Ｄを代入して、
$S^{2}=\dfrac{1}{4} \mathrm{AB}^{2}\cdot\dfrac{4\mathrm{AB}^{2}-(1-3\mathrm{AB}^{2})^{2}}{4\mathrm{AB}^{2}}$

$\mathrm{AB}^{2}=x$とおくと、この式は
$S^{2}=\dfrac{1}{4} x\cdot\dfrac{4x-(1-3x)^{2}}{4x}$

途中式

$$ \begin{align} \phantom{ S^{2} }&=\dfrac{1}{16}\{4x-(1-3x)^{2}\}\\ &=\dfrac{1}{16}(4x-1+6x-9x^{2})\\ &=\dfrac{1}{16}(-9x^{2}+10x-1)\\ &=-\dfrac{9}{16}x^{2}+\dfrac{10}{16}x-\dfrac{1}{16} \end{align} $$

$\phantom{ S^{2} } =-\dfrac{9}{16}x^{2}+\dfrac{5}{8}x-\dfrac{1}{16}$式Ｅ
とかける。

解答ツ：９, テ：１, ト：６, ナ：５, ニ：８

式Ｅのグラフは、上に凸の放物線だ。
なので、頂点が定義域に含まれれば、$S^{2}$が最大になるのは頂点のとき。
というわけで、頂点の$x$座標を求める。

式Ｅを平方完成するのは面倒なので、

復習

$y=ax^{2}+bx+c$のグラフの頂点の$x$座標は
$x=\dfrac{-b}{2a}$

を使う。

復習より、式Ｅのグラフの頂点の$x$座標は
$$ \begin{align} x&=\dfrac{-\cfrac{5}{8}}{2\left(-\cfrac{9}{16}\right)}\\ &=\dfrac{5}{9} \end{align} $$ となる。

ここで、
$x=\mathrm{AB}^{2}$
だけど、

だから
$\dfrac{1}{3} \lt \mathrm{AB} \lt 1$
より
$\dfrac{1}{9} \lt x \lt 1$
となるので、$\dfrac{5}{9}$は定義域に含まれる。

よって、$S^{2}$が最大になるのは
$x=\dfrac{5}{9}$
のとき。

解答ヌ：５, ネ：９

このとき、
$\mathrm{AB}^{2}=\dfrac{5}{9}$
より
$\mathrm{AB}=\pm\dfrac{\sqrt{5}}{3}$
だけど、$\mathrm{AB}$は辺の長さなので
$\mathrm{AB}=\dfrac{\sqrt{5}}{3}$
である。

解答ノ：５, ハ：３

以上より、△$\mathrm{ABC}$の各辺が
$\left\{\begin{array}{l} \mathrm{AB}=\dfrac{\sqrt{5}}{3}\\ \mathrm{BC}=1\\ \mathrm{AC}=\dfrac{2\sqrt{5}}{3} \end{array}\right.$
のとき、面積$S$は最大になる。

このとき、

であることが分かる。