問題
(1) 空間において，三点，，を通る平面に垂直で，長さ1のベクトルをすべて求めよ．
(2) 二点，を通る直線を軸として，平面を回転して得られるすべての平面を考える．このような平面に垂直で長さ1のベクトルの成分の絶対値はと共に変化するが，その最大値および最小値を求めよ．
出典：東京大学 1986年度 前期日程 第2次学力試験 理系 第3問
方針
(1)は と置き，， の両方と直角になる条件を内積で書く。(2)では，平面を直線 のまわりに回すと，それに垂直な単位ベクトルも の方向ベクトルのまわりを回ることを使う。軸方向成分は一定，残りの成分は円を動くので， 成分は「中心値 振幅」の形で範囲を求める。
解答
(1)
とおく。三点から
である。 が平面 に垂直であるためには，この二つのベクトルの両方と直角であればよい。したがって すなわち である。よって ， となり， と書ける。長さが であるから であり， である。したがって である。
(2)
直線 の方向を表す単位ベクトルを
とおく。平面を のまわりに回すと，その平面に垂直な単位ベクトルも の方向のまわりを回る。符号を変えた単位ベクトルも同じ平面に垂直なので， の最大・最小には影響しない。そこで から出発して考える。 成分は， との内積 である。まず
だから， 方向どうしの寄与は で一定である。
次に， に直角な成分を考える。 の直角成分の長さは であり， の直角成分の長さは である。回転によって，この直角成分どうしの内積は の範囲をすべて動く。
したがって，取り得る 成分の範囲は である。この区間は を含むので の最小値は である。また端点の絶対値を比べると なので， の最大値は である。