問題
，をそれぞれ行列，の表す1次変換とする．以下では一般に，1次変換，の合成を簡単にと記す．また，を，をと書く．
(1) を示せ．ただし，は恒等変換，すなわち任意の点をそれ自身に移す変換である．
(2) 変換，，，，は，変換，，，，をある順序に並べ替えたものである．後者の5つの変換はそれぞれ前者の5つのどれと等しいか．
(3) 3点，，を頂点とする三角形をとする．を，で繰り返し変換して得られるすべての三角形の和集合を図示せよ．
出典：京都大学 1993年度 前期日程 第2次学力試験 理系 第6問
方針
(1)は行列を直接掛けて確認する。 と が分かると， で繰り返し作られる変換は6個に限られる。(2)はこの関係を使って長い積を短く直す。(3)では6個の変換で三角形 の2つの基準辺の行き先を調べ，原点を共通頂点とする6個の三角形が，6点 を結ぶ六角形を作ることを示す。
解答
(1)
を表す行列をそれぞれ
とおく。直接計算すると
である。したがって である。
また
であり，
なので
である。よって が成り立つ。
(2)
行列を掛けてもよいが，(1)の関係を使うと短く整理できる。，， より，次の等式が成り立つ。 したがって，後者の5つは前者の5つと次のように一致する。 (3)
(1)，(2)より， を繰り返して得られる変換は の6個である。どの変換も原点を原点へ移すので，三角形 は原点と，， の移った2点で決まる。
6個の変換で ， が移る先を並べると，原点のまわりに次の6点が現れる。
である。得られる6個の三角形は，原点と，この順に隣り合う2点を頂点にもつ三角形である。
したがって求める和集合は，6点 をこの順に結んでできる六角形の内部および周である。図示では，原点を中心に，右，右下，下，左，左上，上の方向へ頂点をもつ六角形を描けばよい。