問題
不等式が表す平面内の領域をとする。を円上の点，とを円上の異なる2点とし，三角形は領域に含まれているとする。，を実数とし，行列の表す1次変換によりは，は，はに移されるとする。このとき，三角形が領域に含まれるための，の必要十分条件を求めよ。ただし，三角形は内部も含めて考えるものとする。
方針
行列 は、複素数でいえば を掛ける変換と同じで、原点からの距離を 倍し、角度を回転させる。領域 は原点中心の半径1以上2以下の環状領域である。三角形全体が に含まれるには、特に半径1上の頂点 の像が内側の円より外にあり、半径2上の頂点 の像が外側の円より内にある必要がある。これにより と が同時に必要になる。逆に なら回転なので領域 をそのまま保つ。
解答
必要条件
行列
によって点 は に移る。したがって
である。つまり原点からの距離は 倍される。
ここで、 は円 上にあるので である。変換後の三角形 が領域 に含まれるなら、特に頂点 も に含まれる。したがって でなければならない。ところが なので が必要である。
一方、 は円 上にあるので である。同じく が に含まれるためには、外側の円の内側にある必要があるから でなければならない。ここで なので すなわち が必要である。
以上より であるから が必要である。
十分性
逆に とする。このとき任意の点について であるから、変換は原点からの距離を保つ。さらに行列の形から、これは原点中心の回転を表す。したがって領域 はこの変換でそのまま に移る。
もとの三角形 は内部も含めて に含まれている。回転は線分を線分に移し、三角形の内部も対応する三角形の内部に移すので、変換後の三角形 も に含まれる。
したがって必要十分条件は である。