$k,a,b,c$の関係式を作りたいんだけど、手がかりが$x$の四次式と因数分解された式しかない。今出来ることは因数分解された式を展開することだけ。

$(x^2+ax+4)(x^2+bx-c)$
を展開して、
$x^4+(a+b)x^3+(ab-c+4)x^2$
                 $+(-ac+4b)x-4c$

これが
$x^4+5x^3+6x^2+kx-8$
と等しいので、
$\{\begin{array}{l}a+b=5\\ ab-c+4=6\\ -ac+4b=k\\ -4c=-8\end{array}$式Ａ
である。

これを使って問題を解いてゆこう。

式Ａより、
$c=2$式Ｂ

解答ア：２

式Ｂを式Ａの他の式に代入して、
$\{\begin{array}{l}a+b=5\\ ab=4\\ -2a+4b=k\end{array}$式Ａ'

$a,b$については、式Ａ'の上の２式をとりだして、
$\{\begin{array}{l}a+b=5\\ ab=4\end{array}$
この連立方程式を解けばよい。

上の式を
$a=5-b$式Ｃ
と変形して、下の式に代入すると、
$b(5-b)=4$
$b^2-5b+4=0$
$(b-1)(b-4)=0$
より、
$b=1,4$

これを式Ｃに代入して、
$(a,b)=(1,4),(4,1)$
である。

だから、$a<b$ならば、
$\{\begin{array}{l}a=1\\ b=4\end{array}$
となる。

解答イ：１, ウ：４

このとき、式Ａ'より、
$k=-2a+4b$
$k$$=14$
である。

解答エ：１, オ：４

$a\geqq b$ならば、
$\{\begin{array}{l}a=4\\ b=1\end{array}$
となる。

解答カ：４, キ：１

このとき、式Ａ'より、
$k=-2a+4b$
$k$$=-4$
である。

解答ク：－, ケ：４