macOS 26.5 - スケールではなく、解像度を変える方法を教えてください

アプリごとに変更する機能はありません。

システム設定でディスプレイの解像度を変更するとアプリ側で認識できる解像度（ディスプレイサイズ）はそれに合わせて変更されます。アプリがそれに合わせて処理をしていれば、処理時間が変わる可能性はありますが、アプリの作り方次第ですね。

ゲーム内に解像度を変更できる設定がありません。

という事は、ゲーム内は常に一定の解像度で処理、出力してて、OS側で最終的にディスプレイの設定に合わせて映しているんじゃないですかね。

なので、GPUとかハード的な能力上げないと狙った効果は得られない様に思いますが…

・アプリごとに解像度を変更する方法はありますか

知る限りないですね。

・できればゲームのレンダリング解像度だけ下げたいです（やっているゲームはNTE）

おそらくゲーム側の設計を変えないとダメだと思います。