京都大学 1988年度
文理共通数学 文系第3問・理系第1問

解答

(1)

$g(x)-x=f(f(x))-x$ である。ここで任意の実数 $u,v$ について $f(u)-f(v)=u^2-v^2+a(u-v)=(u-v)(u+v+a)$ が成り立つ。$u=f(x)$、$v=x$ とすると $f(f(x))-f(x)=(f(x)-x)(f(x)+x+a)$ である。したがって

となる。よって $g(x)-x\text{ は }f(x)-x\text{ で割り切れる}$ である。

(2)

(1)より、$g(p)=p$ は $(f(p)-p)(f(p)+p+a+1)=0$ と同値である。さらに $f(p)\ne p$ であるためには $f(p)+p+a+1=0$ を満たし、かつ $f(p)-p\ne 0$ である実数 $p$ が存在すればよい。

まず $f(x)-x=x^2+(a-1)x+b$ である。また $f(x)+x+a+1=x^2+(a+1)x+a+b+1$ である。後者の判別式を $D$ とすると $D=(a+1{)}^2-4(a+b+1)=a^2-2a-4b-3$ である。 $D>0$ ならば、2次方程式 $x^2+(a+1)x+a+b+1=0$ は相異なる2つの実根をもつ。ここで、もしその根が同時に $f(x)-x=0$ も満たすなら、2つの2次式の差 $\{f(x)+x+a+1\}-\{f(x)-x\}=2x+a+1$ も0でなければならない。したがってその根は $x=-\frac{a+1}{2}$ である。これは後者の2次式の頂点の $x$ 座標なので、共通根があるのは判別式が0のときだけである。よって $D>0$ のときには、少なくとも1つ、実際には2つの根が $f(x)-x\ne 0$ を満たす。

一方、$D=0$ のとき、根は $p=-\frac{a+1}{2}$ である。このとき上の差も0なので、$f(p)+p+a+1=0$ だけでなく $f(p)-p=0$ も成り立つ。したがって固定点になってしまい、条件 $f(p)\ne p$ を満たさない。$D<0$ では実根がない。

よって求める条件は $a^2-2a-4b-3>0$ である。すなわち $b<\frac{a^2-2a-3}{4}$ である。$(a,b)$ 平面では、境界 $b=\frac{a^2-2a-3}{4}=\frac{(a-1{)}^2}{4}-1$ の下側の領域であり、境界は含まない。

別解。$f(p)=r$ とおくと、$g(p)=p$ かつ $f(p)\ne p$ は、$p$ と $r$ が互いに入れ替わる2点であることを意味する。上の因数分解は、このような2周期点を固定点と分離する計算になっている。境界では2周期点が固定点に重なるため、等号を含めない。