まず、角度と座標の復習をしよう。

復習

図の固定

図Ａのように、原点から$x$軸の正の向きと$\theta$の角度で直線$\ell$を引く。
このとき、$\ell$と、原点中心で半径が$1$の円の
交点の$x$座標が$\cos \theta$ 交点の$y$座標が$\sin \theta$ だった。

なので、$x$座標と$y$座標を$a$倍した点$(a\cos \theta ,a\sin \theta )$は、原点中心で半径が$|a|$の円周上にある。
（図Ａは$1<a$のとき）

復習より、座標平面上に点$\mathrm{A}$，$\mathrm{P}$，$\mathrm{Q}$をとると図Ｂができる。

${\mathrm{AP}}^2$と${\mathrm{PQ}}^2$、つまり三角形の辺の長さの２乗を問われているので、余弦定理だ。

△$\mathrm{OAP}$に余弦定理を使って、
${\mathrm{AP}}^2={\mathrm{OA}}^2+{\mathrm{OP}}^2-2\mathrm{OA}\cdot \mathrm{OP}\cdot \cos \mathrm{\angle }\mathrm{AOP}$
${\mathrm{AP}}^2$$=1^2+1^2-2\cdot 1\cdot 1\cdot \cos 2\theta$
${\mathrm{AP}}^2$$=2-2\cos 2\theta$式Ａ
である。

解答ア：２, イ：２

$\cos 2\theta$が出てきたので、２倍角の公式の復習をしておこう。

公式

$\sin 2\theta =2\sin \theta \cos \theta$
$\cos 2\theta ={\cos }^2\theta -{\sin }^2\theta$
$\cos 2\theta$$=1-2{\sin }^2\theta$
$\cos 2\theta$$=2{\cos }^2\theta -1$
${\displaystyle \tan 2\theta =\frac{2\tan \theta }{1-{\tan }^2\theta }}$

２倍角の公式を式Ａに代入して、
${\mathrm{AP}}^2=2-2(2{\cos }^2\theta -1)$
${\mathrm{AP}}^2$$=4-4{\cos }^2\theta$
となる。

解答ウ：４, エ：４

${\mathrm{AP}}^2$のときと同様に、△$\mathrm{OPQ}$に余弦定理を使って、
${\mathrm{PQ}}^2={\mathrm{OP}}^2+{\mathrm{OQ}}^2-2\mathrm{OP}\cdot \mathrm{OQ}\cdot \cos \mathrm{\angle }\mathrm{POQ}$
${\mathrm{PQ}}^2$$=1^2+2^2-2\cdot 1\cdot 2\cdot \cos \theta$
${\mathrm{PQ}}^2$$=5-4\cos \theta$
である。

解答オ：５, カ：４

よって、
${\mathrm{AP}}^2+{\mathrm{PQ}}^2=(4-4{\cos }^2\theta )+(5-4\cos \theta )$
${\mathrm{AP}}^2+{\mathrm{PQ}}^2$$=-4{\cos }^2\theta -4\cos \theta +9$式Ｂ
とかける。

ここで、
${\displaystyle \frac{\pi }{3}\leqq \theta <\pi }$式Ｃ
より、$\theta$の定義域は図Ｃの緑の範囲。

なので、$\cos \theta$の範囲は
$-1<{\displaystyle \cos \theta \leqq \frac{1}{2}}$式Ｄ
である。

解答キ：－, ク：１, ケ：１, コ：２

$\cos \theta =x$式Ｅ
とおくと、式Ｂ，式Ｄは
${\mathrm{AP}}^2+{\mathrm{PQ}}^2=-4x^2-4x+9$式Ｂ'
$-1<x{\displaystyle \leqq \frac{1}{2}}$式Ｄ'
となるから、あとは二次関数の最大・最小の問題だ。

式Ｂ'を平方完成してもいいんだけど、分数になって面倒だから、ここでは次の復習の方法を使うことにする。

復習

$y=a{x}^2+bx+c$のグラフの頂点の$x$座標は
${\displaystyle \frac{-b}{2a}}$
だった。

復習より、式Ｂ'のグラフの頂点の$x$座標は
${\displaystyle \frac{-(-4)}{2\cdot (-4)}=-\frac{1}{2}}$
なので、図Ｄのようなグラフになる。

図Ｄより、${\mathrm{AP}}^2+{\mathrm{PQ}}^2$の最大は、$x=-{\displaystyle \frac{1}{2}}$のとき。
このとき、式Ｅより
${\displaystyle \cos \theta =-\frac{1}{2}}$式Ｆ
また、式Ｃより
${\displaystyle \frac{\pi }{3}\leqq \theta <\pi }$
なので、式Ｆを満たす$\theta$は
${\displaystyle \theta =\frac{2}{3}\pi }$
である。

解答サ：２, シ：３

最大値は、式Ｂ'に$x=-{\displaystyle \frac{1}{2}}$を代入して、
${\mathrm{AP}}^2+{\mathrm{PQ}}^2=-4{(-\frac{1}{2})}^2-4(-\frac{1}{2})+9$
${\mathrm{AP}}^2+{\mathrm{PQ}}^2$$=-1+2+9$
${\mathrm{AP}}^2+{\mathrm{PQ}}^2$$=10$
となる。

解答ス：１, セ：０

また、図Ｄより、${\mathrm{AP}}^2+{\mathrm{PQ}}^2$の最小は、$x={\displaystyle \frac{1}{2}}$のとき。
このとき、式Ｅより
${\displaystyle \cos \theta =\frac{1}{2}}$式Ｇ
また、式Ｃより
${\displaystyle \frac{\pi }{3}\leqq \theta <\pi }$
なので、式Ｇを満たす$\theta$は
${\displaystyle \theta =\frac{\pi }{3}}$
である。

解答ソ：３

最小値は、式Ｂ'に$x={\displaystyle \frac{1}{2}}$を代入して、
${\mathrm{AP}}^2+{\mathrm{PQ}}^2=-4{\left(\frac{1}{2}\right)}^2-4\left(\frac{1}{2}\right)+9$
${\mathrm{AP}}^2+{\mathrm{PQ}}^2$$=-1-2+9$
${\mathrm{AP}}^2+{\mathrm{PQ}}^2$$=6$
となる。

解答タ：６