Win9XではLOCK_SHでロックできません(バグじゃなくてOSの制限による仕様)。少なくともmswin32はそうです。確認してないですがcygwin自体(rubyではなく)にも同じ制限があるんじゃないかと思います。
該当のコードを見てないので断定できないんですが、お役に立てば。

そうだったのですか。ありがとうございます。
flock(LOCK_SH)したのをflock(LOCK_UN)するときに落ちています。他のケースもあるかもしれませんが。

Win9X + mswin32だとLOCK_SHの場合に問答無用でEINVALですので、そこで例外が発生するのは確実です。発生しなかったらバグ :)
LOCK_UNで落ちるパターンというのは、そのruby-devに出ていた、複数スレッド存在時のLOCK_UNのバグだと思います。これは今はもう直ってるはず...

すみません、LOCK_SHでEINVALでした。既知の制限通りの挙動でした。