OSユーティリティが現れない

状況がイマイチ不明ですが、optionキーを使っての起動時に付属のインストールDVDはスタートアップマネージャーに表示されるのですか？

それを選択してもHDDを読みに行くなら、HDDの問題でもOSの問題でもなく本体の故障です。

一瞬画面にC言語みたいな英数字のコマンドが流れて

多分、カーネルパニックのことでしょう。

command+option+Rでも起動しない

その年式のMacBookはインターネットリカバリー未対応なので、起動しないのは正常です。可能なのはcommand + Rでの起動です。

結局ELcapitanが起動してしまいます

とのことですが、正常に起動する状態ですか？

command + RでもインストールDVDでも起動できなければ、ハードウェアテストもできないのでどうにもならないと思います。

インストールdvdで起動しないというのはdvdか光学ドライブに問題があるのでは？

el capitanの状態で、そのdvdはファインダーで中身が見えますか？

中身が見えるにも関わらず起動できない（起動時command + cで光学ドライブから起動できるはず）なら、インストールdvdに問題があるのかもしれません。インストールdvdをディスクユーティリティでusbに復元を利用して丸ごとコピーしてやるとusbインストーラとして使えるようになることがあります。試してみる価値あるかも。

それから、インストールdvdは10.5ということですが、現在el capitanにされてるならsnowleopardのインストールdvdもお持ちなのでは（ライセンスの関係で必要だったはずです）？こちらで試して見ても良いと思います。snowleopardのインストールdvdなら現在でもアップルから入手できますので、どうしてもダメなら、それを購入して10.6にするという選択肢もあるのではないかと思います。あっ、昔のsnowleopardインストールdvdだと起動できないものもあったので（10.5のシステムが稼働してる状態に上書きインストールで使う前提のもの）、それだとダメです。現在入手できるものは起動できるものです。

復元用のパーティションからその症状だと故障の気配ですね。