問題
を方程式の定める球面とする．
(1) 上の1点における接平面を考える．原点，接平面上の点に対し，内積を求めよ．
(2) 上の2点，のそれぞれにおける接平面を考える．両方の接平面に含まれる点のうち，原点からの距離が最小である点を求めよ．
出典：東北大学 1995年度 前期日程 第2次学力試験 文系 前期 第1問
方針
球面の中心が原点であることを使い，点 における接平面は半径 に垂直であると見る。(1) では接平面上の任意の点 について内積が一定になることを示す。(2) では2つの接平面の交線をまず求め，その直線上で原点からの距離の2乗を最小にする。
解答
(1) 球面 は中心 ，半径 の球面である。点 における接平面は半径ベクトル に垂直であるから，接平面上の点 に対して，ベクトル は と垂直である。したがって である。ここで なので
となる。点 は球面上にあるから であり，求める内積は である。
(2) (1) より， における接平面は であり， における接平面は である。両方の接平面上にある点 は を満たす。2式を引くと である。そこで とおくと であり，交線上の点は と表される。
原点からこの点までの距離の2乗を とおく。平方完成すると であるから，最小となるのは のときである。このとき なので である。
別解。(2) は直線への射影として見てもよい。2つの接平面の交線は と書ける。方向ベクトル と点 の内積は0であるから，この点が原点から交線へ下ろした垂線の足であり，距離最小の点である。