この問題では、基準になるベクトルが$\overrightarrow{\mathrm{OP}}=\overrightarrow{p}$と$\overrightarrow{\mathrm{OQ}}=\overrightarrow{q}$なので、原点は点$\mathrm{O}$。
$\overrightarrow{\mathrm{ML}}$は始点が原点じゃないベクトルなので、終点へのベクトル$-$始点へのベクトルより、
$$\begin{array}{rl}\overrightarrow{\mathrm{ML}}& =\overrightarrow{\mathrm{OL}}-\overrightarrow{\mathrm{OM}}\\ & ={\displaystyle \frac{2}{3}}\overrightarrow{\mathrm{OP}}-a\overrightarrow{\mathrm{OQ}}\\ & ={\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q}\mathrm{式}Ａ\end{array}$$ である。

解答ア：２, イ：３, ウ：ａ

別解

$\overrightarrow{\mathrm{ML}}$は始点も終点も基準になるベクトルの上にあるので、単純に点$\mathrm{M}$→点$\mathrm{O}$→点$\mathrm{L}$と移動すると考えて作ると、
$$\begin{array}{rl}\overrightarrow{\mathrm{ML}}& =\overrightarrow{\mathrm{MO}}+\overrightarrow{\mathrm{OL}}\\ & =-\overrightarrow{\mathrm{OM}}+\overrightarrow{\mathrm{OL}}\\ & =-a\overrightarrow{\mathrm{OQ}}+{\displaystyle \frac{2}{3}}\overrightarrow{\mathrm{OP}}\\ & =-a\overrightarrow{q}+{\displaystyle \frac{2}{3}}\overrightarrow{p}\\ & ={\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q}\mathrm{式}Ａ\end{array}$$ である。

解答ア：２, イ：３, ウ：ａ

上の$\overrightarrow{\mathrm{ML}}$の式の両辺の絶対値をとって２乗すると、
${\left|\overrightarrow{\mathrm{ML}}\right|}^2={|{\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q}|}^2$
${\left|\overrightarrow{a}\right|}^2=\overrightarrow{a}\cdot \overrightarrow{a}$なので、
$$\begin{array}{rl}{\left|\overrightarrow{\mathrm{ML}}\right|}^2& =({\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q})\cdot ({\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q})\\ & ={\displaystyle \frac{2^2}{3^3}}{\left|\overrightarrow{p}\right|}^2-2\cdot {\displaystyle \frac{2}{3}}a\overrightarrow{p}\cdot \overrightarrow{q}+a^2{\left|\overrightarrow{q}\right|}^2\end{array}$$ ここで、$\left|\overrightarrow{p}\right|=1$，$\left|\overrightarrow{q}\right|=2$，$\mathrm{\angle }\mathrm{POQ}={90}^{\circ }$より$\overrightarrow{p}\cdot \overrightarrow{q}=0$だから、
$$\begin{array}{rl}{\left|\overrightarrow{\mathrm{ML}}\right|}^2& ={\displaystyle \frac{2^2}{3^3}}\cdot 1^2+a^2\cdot 2^2\\ & ={\displaystyle \frac{2^2}{3^3}}\cdot (1^2+3^2{a}^2)\\ & ={\displaystyle \frac{2^2}{3^3}}\cdot (1+9a^2)\end{array}$$ $0<\left|\overrightarrow{\mathrm{ML}}\right|$より、
$\left|\overrightarrow{\mathrm{ML}}\right|={\displaystyle \frac{2}{3}}\sqrt{1+9a^2}$式Ｂ
である。

解答エ：２, オ：３, カ：９

$$\begin{array}{rl}\overrightarrow{\mathrm{MN}}& =\overrightarrow{\mathrm{ON}}-\overrightarrow{\mathrm{OM}}\\ & =\{(1-b)\overrightarrow{\mathrm{OP}}+b\overrightarrow{\mathrm{OQ}}\}-a\overrightarrow{\mathrm{OQ}}\\ & =(1-b)\overrightarrow{p}+b\overrightarrow{q}-a\overrightarrow{q}\\ & =(1-b)\overrightarrow{p}+(b-a)\overrightarrow{q}\mathrm{式}Ｃ\end{array}$$ である。

解答キ：ｂ, ク：ｂ, ケ：ａ

$\mathrm{ML}\perp \mathrm{MN}$なので、
$\overrightarrow{\mathrm{ML}}\cdot \overrightarrow{\mathrm{MN}}=0$式D
である。

解答コ：０

次は$b$だけど、問題文に
「$\overrightarrow{\mathrm{ML}}\cdot \overrightarrow{\mathrm{MN}}=$コであるから」
とあるので、きっと内積から計算するのだろうと想像がつく。

式Ａ，式Ｃから$\overrightarrow{\mathrm{ML}}$と$\overrightarrow{\mathrm{MN}}$の内積を求めると、
$$\begin{array}{rl}\overrightarrow{\mathrm{ML}}\cdot \overrightarrow{\mathrm{MN}}& =({\displaystyle \frac{2}{3}}\overrightarrow{p}-a\overrightarrow{q})\\ & \cdot \{(1-b)\overrightarrow{p}+(b-a)\overrightarrow{q}\}\\ & ={\displaystyle \frac{2}{3}}(1-b){\left|\overrightarrow{p}\right|}^2\\ & +\{{\displaystyle \frac{2}{3}}(b-a)-a(1-b)\}\overrightarrow{p}\cdot \overrightarrow{q}\\ & -a(b-a){\left|\overrightarrow{q}\right|}^2\end{array}$$ ここで、$\left|\overrightarrow{p}\right|=1$，$\left|\overrightarrow{q}\right|=2$，$\overrightarrow{p}\cdot \overrightarrow{q}=0$だから、
$$\begin{array}{rl}\overrightarrow{\mathrm{ML}}\cdot \overrightarrow{\mathrm{MN}}& ={\displaystyle \frac{2}{3}}(1-b)\cdot 1^2-a(b-a)\cdot 2^2\\ & ={\displaystyle \frac{2}{3}}(1-b)-4a(b-a)\end{array}$$

これに式Ｄを代入して、
${\displaystyle \frac{2}{3}}(1-b)-4a(b-a)=0$

途中式

$(1-b)-6a(b-a)=0$
$1-b-6ab+6a^2=0$
$b+6ab=1+6a^2$
$(1+6a)b=1+6a^2$

$b={\displaystyle \frac{1+6a^2}{1+6a}}$式Ｅ
である。

解答サ：６, シ：１, ス：６

次は$\left|\overrightarrow{\mathrm{MN}}\right|$だけど、$\left|\overrightarrow{\mathrm{ML}}\right|$を求めたときと同じことをしよう。
式Ｃの両辺の絶対値をとって２乗すると、
${\left|\overrightarrow{\mathrm{MN}}\right|}^2={|(1-b)\overrightarrow{p}+(b-a)\overrightarrow{q}|}^2$
${\left|\overrightarrow{a}\right|}^2=\overrightarrow{a}\cdot \overrightarrow{a}$なので、
$$\begin{array}{rl}{\left|\overrightarrow{\mathrm{MN}}\right|}^2& =\{(1-b)\overrightarrow{p}+(b-a)\overrightarrow{q}\}\\ & \cdot \{(1-b)\overrightarrow{p}+(b-a)\overrightarrow{q}\}\\ & =(1-b{)}^2{\left|\overrightarrow{p}\right|}^2+2(1-b)(b-a)\overrightarrow{p}\cdot \overrightarrow{q}\\ & +(b-a{)}^2{\left|\overrightarrow{q}\right|}^2\end{array}$$ ここで、$\left|\overrightarrow{p}\right|=1$，$\left|\overrightarrow{q}\right|=2$，$\overrightarrow{p}\cdot \overrightarrow{q}=0$だから、
${\left|\overrightarrow{\mathrm{MN}}\right|}^2=(1-b{)}^2+4(b-a{)}^2$
これに式Ｅを代入して、
$\begin{array}{rl}{\left|\overrightarrow{\mathrm{MN}}\right|}^2& ={(1-{\displaystyle \frac{1+6a^2}{1+6a}})}^2\\ & +4{({\displaystyle \frac{1+6a^2}{1+6a}}-a)}^2\end{array}$

途中式

$$\begin{array}{rl}\phantom{{\left|\overrightarrow{\mathrm{MN}}\right|}^2}& ={({\displaystyle \frac{1+6a}{1+6a}}-{\displaystyle \frac{1+6a^2}{1+6a}})}^2\\ & +4{({\displaystyle \frac{1+6a^2}{1+6a}}-{\displaystyle \frac{a(1+6a)}{1+6a}})}^2\\ & ={\left({\displaystyle \frac{1+6a-1-6a^2}{1+6a}}\right)}^2\\ & +4{\left({\displaystyle \frac{1+6a^2-a-6a^2}{1+6a}}\right)}^2\\ & ={\left({\displaystyle \frac{6a-6a^2}{1+6a}}\right)}^2+4{\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2\\ & ={\left({\displaystyle \frac{6a(1-a)}{1+6a}}\right)}^2+4{\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2\\ & =(6a{)}^2{\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2+4{\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2\\ & ={\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2\{(6a{)}^2+4\}\\ & ={\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2{2}^2\{(3a{)}^2+1\}\end{array}$$

$\phantom{{\left|\overrightarrow{\mathrm{MN}}\right|}^2}=2^2{\left({\displaystyle \frac{1-a}{1+6a}}\right)}^2(9a^2+1)$
$0<\left|\overrightarrow{\mathrm{MN}}\right|$より、
$$\begin{array}{rl}\left|\overrightarrow{\mathrm{MN}}\right|& =2\cdot {\displaystyle \frac{1-a}{1+6a}}\sqrt{9a^2+1}\\ & ={\displaystyle \frac{2(1-a)}{1+6a}}\sqrt{1+9a^2}\mathrm{式}Ｆ\end{array}$$ となる。

解答セ：２, ソ：１, タ：９

$\mathrm{△}\mathrm{LMN}$∽$\mathrm{△}\mathrm{QOP}$なので、
$\mathrm{ML}:\mathrm{MN}=\mathrm{OQ}:\mathrm{OP}$
問題より、$\mathrm{OP}=1$，$\mathrm{OQ}=2$なので、
$\mathrm{ML}:\mathrm{MN}=2:1$
$\mathrm{ML}=2\mathrm{MN}$
となるから、
$\left|\overrightarrow{\mathrm{ML}}\right|=2\left|\overrightarrow{\mathrm{MN}}\right|$
である。

解答チ：２

これに式Ｂ，式Ｆを代入して、
${\displaystyle \frac{2}{3}}\sqrt{1+9a^2}=2\cdot {\displaystyle \frac{2(1-a)}{1+6a}}\sqrt{1+9a^2}$
ここで、$\sqrt{1+9a^2}\ne 0$なので、両辺を$\sqrt{1+9a^2}$で割って、
${\displaystyle \frac{2}{3}}=2\cdot {\displaystyle \frac{2(1-a)}{1+6a}}$
${\displaystyle \frac{1}{3}}={\displaystyle \frac{2(1-a)}{1+6a}}$

${\displaystyle \frac{A}{B}}={\displaystyle \frac{C}{D}}$のとき、$AD=BC$なので、
$1+6a=3\cdot 2(1-a)$
$1+6a=6-6a$
$12a=5$
$a={\displaystyle \frac{5}{12}}$
となる。

解答ツ：５, テ：１, ト：２

これを式Ｅに代入して、
$$\begin{array}{rl}b& ={\displaystyle \frac{1+6{\left(\frac{5}{12}\right)}^2}{1+6\cdot \frac{5}{12}}}\\ & ={\displaystyle \frac{1+\frac{5^2}{2\cdot 12}}{1+\frac{6\cdot 5}{12}}}\end{array}$$ 分母分子に$2\cdot 12$をかけて、
$b={\displaystyle \frac{2\cdot 12+5^2}{2\cdot 12+2\cdot 6\cdot 5}}$

途中式

$$\begin{array}{rl}\phantom{b}& ={\displaystyle \frac{24+25}{24+60}}\\ & ={\displaystyle \frac{49}{84}}\end{array}$$

$\phantom{b}={\displaystyle \frac{7}{12}}$
である。

解答ナ：７, ニ：１, ヌ：２

ここまでの内容を図Ｂにまとめた。
図Ｂでは、分かりやすいように$\mathrm{R}$は$\mathrm{LN}$の内分点としてあるが、$s<0$または$1<s$のときは外分点になる。

点$\mathrm{R}$は$\mathrm{LN}$を$s:1-s$に内分または外分するので、
$$\begin{array}{rl}\overrightarrow{\mathrm{OR}}& =(1-s)\overrightarrow{\mathrm{OL}}+s\overrightarrow{\mathrm{ON}}\\ & =(1-s){\displaystyle \frac{2}{3}}\overrightarrow{\mathrm{OP}}+s\cdot {\displaystyle \frac{5\overrightarrow{\mathrm{OP}}+7\overrightarrow{\mathrm{OQ}}}{7+5}}\\ & =(1-s){\displaystyle \frac{8}{12}}\overrightarrow{p}+s\cdot {\displaystyle \frac{5\overrightarrow{p}+7\overrightarrow{q}}{12}}\end{array}$$

途中式

$$\begin{array}{rl}\phantom{\overrightarrow{\mathrm{OR}}}& ={\displaystyle \frac{1}{12}}\{8(1-s)\overrightarrow{p}+5s\overrightarrow{p}+7s\overrightarrow{q}\}\\ & ={\displaystyle \frac{1}{12}}\{(8-8s+5s)\overrightarrow{p}+7s\overrightarrow{q}\}\\ & ={\displaystyle \frac{1}{12}}\{(8-3s)\overrightarrow{p}+7s\overrightarrow{q}\}\\ & =({\displaystyle \frac{8}{12}}-{\displaystyle \frac{3}{12}}s)\overrightarrow{p}+{\displaystyle \frac{7}{12}}s\overrightarrow{q}\end{array}$$

$\phantom{\overrightarrow{\mathrm{OR}}}=({\displaystyle \frac{2}{3}}-{\displaystyle \frac{s}{4}})\overrightarrow{p}+{\displaystyle \frac{7}{12}}s\overrightarrow{q}$式Ｇ
となる。

解答ネ：２, ノ：３, ハ：４

ここからは、よく見る交点の位置ベクトルの問題。
ひとつのベクトルを２通りに表して、連立方程式に持ち込むアレだ。

$\mathrm{R}$が$\mathrm{OQ}$上にあるとき、$t$を実数として、
$$\begin{array}{rl}\overrightarrow{\mathrm{OR}}& =t\overrightarrow{\mathrm{OQ}}\\ & =t\overrightarrow{q}\end{array}$$ とかける。

これが式Ｇと等しくなるので、
$({\displaystyle \frac{2}{3}}-{\displaystyle \frac{s}{4}})\overrightarrow{p}+{\displaystyle \frac{7}{12}}s\overrightarrow{q}=t\overrightarrow{q}$
と表せるから、
$\{\begin{array}{l}{\displaystyle \frac{2}{3}}-{\displaystyle \frac{s}{4}}=0\\ {\displaystyle \frac{7}{12}}s=t\end{array}$
である。

今は$t$は必要ないので、上の式だけ解くと、
${\displaystyle \frac{2}{3}}={\displaystyle \frac{s}{4}}$
$3s=8$
$s={\displaystyle \frac{8}{3}}$
となる。

解答ヒ：８, フ：３