A.K.I.です。

たぶんイメージが間違ってるのでは？と思うのですが「MySQLに接続
する」ことと「MySQLを起動する」ことは違います。
MySQLは基本的に常に起動していて、TCPのポート3306を常に監視し
ています。そこに接続することでデータのやりとりを行うのですが、
mysqladminも同様にポート3306を通じてデータのやりとりをします
ので、MySQLが起動していないと接続できません。

とりあえず、

1.OSのバージョン
2.MySQLのバージョンとインストール手順
3.インストール後に行ったこと

あたりを書いて頂けるともう少し話が進められるかな、と。
あとは
4.どんな言語でどのようなことをしようとしているのか
5.なぜ（あるいは何を見て）Webサーバが必要と思ったのか
まで書いてあると（本当にMySQLを使う必要があるのかどうかも含
めて）アドバイスができる可能性もあります。