みうらさま、

> ■問題のクエリ
> update test set id = id - 100;
> 
> ■問題の結果
> 「0」になると思いきや、「4294967295」になってしまった。

たしかに変ですね。仰せの例にしたがい、id を unsigned int だとしますと、

1. set id = 0 - 1;         としたとき、

2. set id = 0;             ついで
   set id = id - 100;      としたとき、

のいずれについても、Code 1264 Out of range value adjusted for columm
'id' 云々のwarning メッセージが出ますが、 1 の結果は 0、2の結果は
4294967295 となります。

振るまいに整合性がない、ということで、これはバグじゃないでしょうか。
ちゃうかな。

http://bugs.mysql.com/bug.php?id=26374 に関係するとおぼしき報告あり。
あと、http://bugs.mysql.com/bug.php?id=27416 なんても。

- とうげ