問題
区間が関数に関して不変であるとは，ならば，が成り立つこととする．とするとき，次の問いに答えよ．
(1) 区間は関数に関して不変であることを示せ．
(2) とする．このとき，区間は関数に関して不変ではないことを示せ．
方針
(1)は で が0以上1以下に入ることを、二次関数の最大最小で示す。(2)は不変区間が存在すると仮定し、端点 と点 の像から位置関係を絞る。 なら 、 なら 、 を含めば で破綻する。残る では、、 とおき、、 から得る2つの不等式を組み合わせて矛盾させる。
解答
(1)
では であり、、 だから である。また と変形できるので である。したがって が成り立ち、区間 は に関して不変である。
(2)
で、区間 が に関して不変であると仮定する。このとき、特に を満たす端点 について が必要である。
まず、もし なら であるから となり、不変性に反する。したがって でなければならない。
次に、もし なら であるから となり、不変性に反する。したがって でなければならない。
さらに、もし なら、 であるにもかかわらず となる。これは不変性に反する。すでに が必要であるから、この場合を避けるには でなければならない。
以上より、残る可能性は だけである。そこで とおく。このとき である。
不変性より 、 が必要である。まず
であるから、 は すなわち となる。
また
であるから、 は すなわち となる。
後者から特に であり、前者から である。したがって である。よって となる。
ここで である。もし なら なので となり矛盾する。したがって でなければならない。ところが を に代入すると であり、 だから である。すると となり、 に反する。
したがって を満たす区間 は、 に関して不変ではない。