図Ａより、
$$\begin{array}{rl}\$\overrightarrow{\mathrm{AB}}& =\overrightarrow{\mathrm{FB}}-\overrightarrow{\mathrm{FA}}\\ & =\overrightarrow{q}-\overrightarrow{p}\end{array}$$ とかける。

解答ア：２

よって、
$$\begin{array}{rl}{\left|\overrightarrow{\mathrm{AB}}\right|}^2& =\overrightarrow{\mathrm{AB}}\cdot \overrightarrow{\mathrm{AB}}\$\\ & =(\overrightarrow{q}-\overrightarrow{p})\cdot (\overrightarrow{q}-\overrightarrow{p})\\ & =\overrightarrow{p}\cdot \overrightarrow{p}-2\overrightarrow{p}\cdot \overrightarrow{q}+\overrightarrow{q}\cdot \overrightarrow{q}\\ & ={\left|\overrightarrow{p}\right|}^2-2\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2\mathrm{①}\end{array}$$ となる。

解答イ：２

点$\mathrm{D}$は、線分$\mathrm{AB}$を$1:3$に内分する点なので、
$$\begin{array}{rl}\overrightarrow{\mathrm{FD}}& =\frac{3\overrightarrow{\mathrm{FA}}+\overrightarrow{\mathrm{FB}}}{1+3}\\ & =\frac{3\overrightarrow{p}+\overrightarrow{q}}{4}\\ & =\frac{3}{4}\overrightarrow{p}+\frac{1}{4}\overrightarrow{q}\mathrm{②}\end{array}$$ である。

解答ウ：３, エ：４, オ：１, カ：４

式②に$\overrightarrow{\mathrm{FD}}=s\overrightarrow{r}$を代入すると、
$s{\displaystyle \overrightarrow{r}=\frac{3}{4}\overrightarrow{p}+\frac{1}{4}\overrightarrow{q}}$
$4s\overrightarrow{r}=3\overrightarrow{p}+\overrightarrow{q}$
$\overrightarrow{q}=-3\overrightarrow{p}+4s\overrightarrow{r}$③
となる。

解答キ：－, ク：３, ケ：４

また、点$\mathrm{E}$は、線分$\mathrm{BC}$を$a:1-a$に内分する点なので、
$\overrightarrow{\mathrm{FE}}=(1-a)\overrightarrow{\mathrm{FB}}+a\overrightarrow{\mathrm{FC}}$
となるから、
$t\overrightarrow{p}=(1-a)\overrightarrow{q}+a\overrightarrow{r}$
$(1-a)\overrightarrow{q}=t\overrightarrow{p}-a\overrightarrow{r}$
${\displaystyle \overrightarrow{q}=\frac{t}{1-a}\overrightarrow{p}-\frac{a}{1-a}\overrightarrow{r}}$④
である。

解答コ：１, サ：ａ, シ：ａ

式③と式④は等しいので、
$\{\begin{array}{l}-{\displaystyle \frac{a}{1-a}}=4s\\ {\displaystyle \frac{t}{1-a}}=-3\end{array}$
とかける。
これを計算して、
$\{\begin{array}{l}s={\displaystyle \frac{-a}{4(1-a)}}\\ t=-3(1-a)\end{array}$
となる。

解答ス：－, セ：ａ, ソ：４, タ：－, チ：３

式①に$\left|\overrightarrow{p}\right|=1$を代入して、
${\left|\overrightarrow{\mathrm{AB}}\right|}^2=1-2\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2$①'
である。

アドバイス

次は$\overrightarrow{\mathrm{BE}}$だけど、$\overrightarrow{\mathrm{BE}}$は
$\overrightarrow{\mathrm{FE}}-\overrightarrow{\mathrm{FB}}$を使って、
$\overrightarrow{\mathrm{BE}}=t\overrightarrow{p}-\overrightarrow{q}$式Ａ
$a\overrightarrow{\mathrm{BC}}$を使って、
$\overrightarrow{\mathrm{BE}}=a(\overrightarrow{r}-\overrightarrow{q})$
と、２通りの表し方が考えられる。
けれど、ツテの式を見ると、右辺に$\overrightarrow{r}$がないので、式Ａの方を使おう。

$\overrightarrow{\mathrm{BE}}=\overrightarrow{\mathrm{FE}}-\overrightarrow{\mathrm{FB}}$
なので、
$\overrightarrow{\mathrm{BE}}=t\overrightarrow{p}-\overrightarrow{q}$
(3)より、$t=-3(1-a)$なので、
$\overrightarrow{\mathrm{BE}}=-3(1-a)\overrightarrow{p}-\overrightarrow{q}$
${\left|\overrightarrow{\mathrm{BE}}\right|}^2={|-3(1-a)\overrightarrow{p}-\overrightarrow{q}|}^2$

途中式

$$\begin{array}{rl}\phantom{|\overrightarrow{\mathrm{BE}}{|}^2}& =\{-3(1-a)\overrightarrow{p}-\overrightarrow{q}\}\\ & \cdot \{-3(1-a)\overrightarrow{p}-\overrightarrow{q}\}\\ & =\{-3(1-a)\overrightarrow{p}\}\cdot \{-3(1-a)\overrightarrow{p}\}\\ & +2\{3(1-a)\overrightarrow{p}\}\cdot \overrightarrow{q}+\overrightarrow{q}\cdot \overrightarrow{q}\end{array}$$

$\phantom{|\overrightarrow{\mathrm{BE}}{|}^2}=9(1-a{)}^2{\left|\overrightarrow{p}\right|}^2+6(1-a)\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2$
だけど、$\left|\overrightarrow{p}\right|=1$なので、
${\left|\overrightarrow{\mathrm{BE}}\right|}^2=9(1-a{)}^2+6(1-a)\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2$
式Ｂ
となる。

解答ツ：９, テ：６

$\left|\overrightarrow{\mathrm{AB}}\right|=\left|\overrightarrow{\mathrm{BE}}\right|$なので、${\left|\overrightarrow{\mathrm{AB}}\right|}^2={\left|\overrightarrow{\mathrm{BE}}\right|}^2$である。
よって、式①'$=$式Ｂより、
$1-2\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2=9(1-a{)}^2+6(1-a)\overrightarrow{p}\cdot \overrightarrow{q}+{\left|\overrightarrow{q}\right|}^2$

途中式

$1-2\overrightarrow{p}\cdot \overrightarrow{q}=9(1-a{)}^2+6(1-a)\overrightarrow{p}\cdot \overrightarrow{q}$
$6(1-a)\overrightarrow{p}\cdot \overrightarrow{q}+2\overrightarrow{p}\cdot \overrightarrow{q}=1-9(1-a{)}^2$
$2(3-3a+1)\overrightarrow{p}\cdot \overrightarrow{q}=1-9+18a-9a^2$
$2(4-3a)\overrightarrow{p}\cdot \overrightarrow{q}=-8+18a-9a^2$

$2(4-3a)\overrightarrow{p}\cdot \overrightarrow{q}=-(4-3a)(2-3a)$
$0<a<1$より$4-3a\ne 0$なので、両辺を$4-3a$で割っても大丈夫。
$2\overrightarrow{p}\cdot \overrightarrow{q}=-(2-3a)$
${\displaystyle \overrightarrow{p}\cdot \overrightarrow{q}=\frac{3a-2}{2}}$
である。

解答ト：３, ナ：ａ, ニ：２, ヌ：２