OS9起動で解像度が800*600固定

オープンファームウエア画面で、reset-nvram (return) reset-all (return)と入れてみては？
お使いのiBookはOS8は使えませんので、ちゃんとした（対応のある）OSをインストールしてください。

使用しているOS9はibook付属のものですか？
他の機種で使用していたものだったりするとそのようなことがあったりしますが。

このモデルのMAC OS ROM のバージョンは9.3.1です。現在のROMのバージョンはいくつですか。

久しぶりに書き込みます。・・・・・
OSX時代以降に発売された「OS9で起動出来る機種」は、「製品版のOS9」でも使えない場合が多いようです。(ROMか拡張書類の違い？)
私のiBook(M8758J/A)32VRAMも「製品版のOS9」で同じような症状になりました。
付属CDをお持ちでないなら、ヤフオクなどでリストアCDだけを入手するしかないようです。

製品版て、9.2.2でしたっけ？
恐らく製品版は、9.0.xだと思うのですが、その場合、G3 800MHz（9.2.2が要求されているOSだと思います）には「下位のOS」となってしまいます。
もし、9.2.2まであげたらどうなのでしょうか（オンラインでDL可）？
また、9.3.1というのは存在するのでしょうか？？

＞製品版て、9.2.2でしたっけ？
恐らく製品版は、9.0.xだと思うのですが、その場合、G3 800MHz（9.2.2が要求されているOSだと思います）には「下位のOS」となってしまいます。
いや、9.2.1です・・・が、やはり下位のOSではありますね。
本来なら9.2.2をインストールすべきでしょうが、9.2.2というのはありませんので。
でも、なぜか9.2.1でも立ち上がるのです(CD-ROMからも)。
＞もし、9.2.2まであげたらどうなのでしょうか（オンラインでDL可）？
もちろんやりましたが、結果は同じで不具合は直らず。
で、結局専用リストアCDでインストールで解決。
＞また、9.3.1というのは存在するのでしょうか？？
存在しません。

> 恐らく製品版は、9.0.xだと思うのですが、
製品版って、Mac OS 9のパッケージ（リテイル）版のことですよね。リテイル版は9.1があります。また、Mac OS Xに添付（Pantherから実費程度で配布だったかな）されていたMac OS 9が9.2.1だったと思います。

少々言葉が混乱しているような・・・
ここで出てくる"8.6"とか"9.3.1"というのは、システムフォルダ内の
"Mac OS ROM"の話であって、"Mac OS"そのもののことではないと
想像します。素のOS9.2.2の"Mac OS ROM"はv8.7で、同OS9.2.1は
v8.4ですから、v8.6というのは特定機種専用OS9.2.1のものであると
思われます。
また、Opaqueに使用されているGPUは"Mobility Radeon 7500"です。
OS9.2.2に含まれるバージョン以上の"ATI Driver Update"機能拡張を
要求すると思われます。
ソフト的な解決策としては、基本的には既にご指摘があるように、
付属していたメディアでリストアするしかないでしょう。
モニタがデュアルで認識されているのは、これで直るかは定かでは
ありません・・・
蛇足ですが、OSX10.1バンドルがOS9.2.1、OSX10.0バンドルがOS
9.1でして、OS10.2以降にOS9はバンドルされていません。
リテール版はOS9.0、OS9.0.4、OS9.1、OS9.2.1が存在したかと。
#OS9.2はあったかどうか覚えていません。すみませんm(_ _)m
--追記--
デスクトップのものですが、"Mac OS ROM"の対応表です。
Article ID:24965
"Mac OS: Mac OS ROM ファイルと Mac OS バージョンの対応について"
こちらもご紹介しておきます。
Article ID:25114
"Mac OS 8 および Mac OS 9 と Macintosh コンピュータとの互換性に
ついて"
#iBook 32VRAMって専用OS9.2.2（Mac OS ROM v10.1.1）なのですが、
#注意書きなし？
#Power Mac G4 MDD（Mac OS ROM v9.5.1）は注意書きあるのに・・・

NO9さん、子持ちシシャモさん、詳細の解説ありがとうございます。
ちょっと整理がつきました。

フォロー、有り難うございます。
> 蛇足ですが、OSX10.1バンドルがOS9.2.1、OSX10.0バンドルがOS
> 9.1でして、OS10.2以降にOS9はバンドルされていません。
ハンドルされなくなったのはJaguarからでしたか。（PantherかJaguarか、どっちかからだったなと、迷っていました。苦笑）それと、Mac OS Xを購入したのは10.1からだったので、「OSX10.0バンドルがOS 9.1」はノーマークでした。
> リテール版はOS9.0、OS9.0.4、OS9.1、OS9.2.1が存在したかと。
9.1まではリテール版を購入していましたが、9.2.1はOS Xに付属していたので、リテイル版の存在もノーマークでした。

> 9.2.1はOS Xに付属していたので、リテイル版の存在もノーマー
> クでした。
OS9.2.1についてもうろ覚えだったのですが、一応文書を見つけま
した。
Article ID:106436
"Mac OS 9.2.1: システム条件"
> Mac OS 9.2.1 以降がプリインストールされて出荷されたコン
> ピュータにはリテール版の Mac OS 9.2.1 はインストールでき
> ません。
そう言えば、OS9.0.4はiMac DVについていたクーポンで購入・・・