経路探索とかルート探索とか呼ばれているみたいですが、概要が視覚的にわかりやすく、かつコードのサンプルまであるページがありました。

ルート探索│miscellaneous

実際のゲームに使われるのはどういったアルゴリズムかわかりませんが、障害物をよけるためにはこの手の処理が必要不可欠です（ちょうどこんな話題をメールでいただきました）。しかも最短距離を見つけるというのがポイントで、仲間がプレイヤーの後ろをついてくるようなゲームでは、後ろの仲間のほうが近道をすることもあります（インフィニットアンディスカバリーなんかそうでした）。

スターオーシャンのように敵との間合いを自動的に詰めるようなゲームで、ときどきキャラクターが大回りして敵にたどり着くことがあるのですが、たまたま敵や障害物が重なって壁のような大きな障害物という判定になってしまっているのかもしれません。セカンドなどは敵がビルボードなので大きさ（奥行き）が目に見えず、敵同士がどれだけ接近したときに「（目の前に大きい障害物があるから）迂回しよう」という判断になるのかわからないので、プレイ中はよく驚かされました（めくりのスキルがそれを助長していたような気も…）。

扉が閉まってしまうなどで経路が断たれた時も面白く、ゲームによっては地形を無視してキャラが移動したり、フェードインしてワープしてくるゲームなどもありました。この辺も楽しめるポイントかもしれません。