自分でも余計なお世話と思いつつ・・・。

>初期状態まで戻せるよう
現状が分からなければ戻しようがありません。

まいパパさんが言われているように
OSから再インストールが望ましいように思えます。
(私や渡邉さんも同じことを申し上げいるつもりです)

また、rpm でインストールしたなら、削除するときも
rpm で行わないと、rpm のパッケージ情報が壊れる可能性があります。

ソース分に関しては configure の prefix datadir 等を
指定していなければ /usr/local/mysql 以下を全て削除し、
"おまけ"で書いたファイルを消す必要があります。

＜おまけ＞
少なくとも MySQL の .pid ファイルと .sock ファイルが
存在しているなら消す必要があります。
/var/lock/subsys 以下の mysql ファイルも同様です。
・・・あと何かあるでしょうか？
ご存知の方がいれば教えてください。