問題
行列で表される1次変換をとする．
(1) による全平面の像は直線であることを示せ．
(2) 平面上の点に対し，上の点でとの距離が最小となる点をとし，による像がとなる点のうちで，原点との距離が最小となる点をとする．の座標を，で表せ．
(3) 点に点を対応させる写像をとする．合成写像およびを求めよ．
出典：京都大学 1991年度 前期日程 第2次学力試験 理系 第2問
方針
変換 は を に移すので，得られる点全体は直線 上にある。逆に直線上の任意の点を作れることも確認する。 は，まず点 を直線 に直交射影し，次にその点へ移る点のうち原点に最も近いものを求める。最後は得られた の式を用いて，二つの合成がそれぞれ ， に戻ることを直接計算する。
解答
(1)
が により に移るとすると である。したがって すなわち を満たす。逆に，直線 上の点は と書け，これは例えば を で移した点である。よって により得られる点全体は である。
(2)
次に を求める。直線 は原点を通り，方向ベクトルを と取れる。点 から へ下ろした垂線の足を とすると， は 方向への正射影であるから である。したがって である。 によって に移る点 は を満たす。この直線上で原点からの距離 が最小となる点を求める。条件 のもとで考えると，直線 に原点から垂線を下ろした足が最短の点である。直線の法線方向は なので，その点は である。したがって となる。
(3)
最後に合成を確認する。 とおくと である。これに を作用させると
である。さらに を作用させると となる。よって である。
また とおくと である。さらに を作用させると である。したがって も成り立つ。