shin1です。

>個人的にはカテゴリ別にSQLをプログラムから投げるほうが好ましい気がしますが、、、

これもカテゴリ数によってはTCP通信が発生する場合など
別な部分で遅くなりそうですね；；

>予め順位のカラムを追加するバージョンを考えてみました

from (select * from xxx2) as t2 は驚きましたw
MySQLはこんな所にもいやな縛りが出てくるんですね(泣)

「同じ値段のものはIDが小さいほうが上位」という事で少し省略できますね。

-- 順位更新
UPDATE xxx2 t
set
  rank = ( -- 自分より値段が低いか同じ値段でIDが小さいものをカウント
    select
      count(*)
    from
      (select * from xxx2) as t2
    where
      t2.nen = t.nen
      and (t2.gaku < t.gaku
      or (t2.gaku = t.gaku
      and t2.id < t.id) )
  ) + 1

今回のケースは、実務のほうでは他にも色々な抽出条件が加わっていて、
さらに結果のソート順も複雑でして、この「ランクを振っておいてから
抽出する」という考えが本当は一番スマートだったかも知れません。

ランクだけで無く他の抽出条件も加味して、一度テンポラリに抜き出して
からじっくりsortしても良かったかな。なんて。
今回はサブクエリだけで抽出する方法で強引に対応してしまいましたが・・

ありがとうございました。
次回はこのアイデアも参考にさせていただきます。