石野です。こんばんは。

* [mysql 06424] Re: servlet では order by rand()ができない？
> 
> データ数が少なかったため、断定を避けていたのですが、不適切でした。コマンドラ
> インから発行するクエリは確実に動作します。

これ、毎回新しい接続で試されてるんでしょうか？
少なくとも手元の環境（mysql 3.23.52-max-nt）ではrand()は
同一接続内でしか、あまりうまいこといかないみたいです。
（データ量にもよるかもしれません。）

・PHPではmysql_pconnect()を使用する。
・Javaではコネクションプーリングを利用する。

または

・rand()の引数に適当な値を指定する。
（PHPなら
  srand((double)microtime() * 1000000);
  $randval = rand() * rand();
  $sql = "select * from tableName order by rand( $randval ) limit 1;";
  みたいに..）

とかされてみたらどうでしょうか。
レコード数わずか10件程度のテーブルでしか試してませんが、
これでそこそこうまくいくようです。

---
Tomoyuki ISHINO