Какие преимущества и недостатки у OpenSolaris по сравнению с другими *nix-ами?

Невозмжно оценить. Все зависит от того какую задачу ты собираешься решить. Если сделать маршрутизатор то по мне так лучше OpenBSD, он быстрее если файловый сервер то OpenSolaris на мой взгляд он более надежный.
Опеределись задаче  расставь приоритеты, а потом приступай к выбору OC.

Если строить игровой сервер на Java то Solaris в этом отношении подойдет лучше всего подойдет, т.к. Java родная среда для саляры, основные приимущества Solaris по сравнению с отальными OS это работа с тредами и файловая система zfs, к недостаткам можно отнести то что если вы работали до этого с каким нибудь Linux или одной из BSD подобных операционок то переходить на соляру будет не привычно ключи могих утилит у них свои что иногда вводит в ступор (ибо привычка дело не хитрое) и приходится читать маны , организация сети отличается в корне от всего с чем мне привелось работать, но ко всему быстро привыкаешь и начинаешь считать, а почему бы и нет вполне логично :).
На Вашем месте посмотребы лучше в сторону Solaris 10, а не OpenSolaris т.к. IMHO он всеже больше десктоп-ориентированный.
К содалению Solaris как десктоп не юзал и сказать что либо за и пролтив не могу ибо просто не сталкивался, я как десктоп использую Linux, BSD для десктопа тодже не очень пожходит (всеже это изначально серверная платформа) хотя некотырые и юзают ее как десктоп.