みかみです。

> 私の場合、アクセスデータはファイルに保存して、
> 毎朝アクセスの少ない時にcron等でDBに入れてます。

リアルタイムでデータ解析が必要なければその方法も良いかと思いますが・・

ただ、以前に200万アクセス/日の解析をsatoさんよりスペックの低いサーバーで
行っていた事がるのですが、
CPU使用率が上がるのはinsert処理よりもselectの方なんですよね。
insertのみであれば、100万〜200万程度のアクセス数であれば、
そのスペックのサーバーを使っていれば問題ないと思われます。
(プログラム的に無駄な処理をしていなければ)

ファイルでの処理を行うのであれば逆に、insertはリアルタイムで行って
早朝などに前日の解析結果を表示させるページをcron等で作成するほうが良いと
思います。

Too many connectionsが出るのであれば、当然max_connectionsを増やせば
その問題は解決されるでしょうが、重いのは変わらないでしょうね。
satoさんの場合はアクセス解析サイトをなさっているとの事で、
おそらくユーザーが解析画面を見る時の処理でCPU使用率が格段に上がっている
のではないでしょうか？
その辺りの処理(tableの構造等も含めて)を見直すのも1つの手ですね。(例えば
上記の方法)

他にも方法がなくはないですけど、問題はどの部分の処理で一番負荷がかかって
いるかですから。
こういう問題は行き着く所まで行ってからしか出て来ないので突然困る事になり
ますよねぇ・・・大規模検索サイトの負荷分散処理がどうなってるのか知りたい
です。