sаs

чем не устраивает  raid?

смотря для чего нужно, так как смысл в удорожании, если есть обычная САТА, а в качестве контроллеров, то только вне материнских плат, смотри в сторону
adaptec

Карты на рсi-е не внушают доверия.

Для начала надо уточнить, что подразумевается под "производительной дисковой подсистемой"?
Диски SAS имеют огромное преимущество перед SATA при одновременных множественных запросах, т.е. в приложениях с большим к-вом пользователей (Web-сервер, сервер баз данных, сервер терминалов). Это обусловлено, в немалой степени, способностью SAS оптимизировать до 256 запросов на дисковые операции на уровне самого диска, а SATA - только 32 инструкции (NCQ).
В потоковых задачах, таких как считывание с них медиафайлов, графических файлов и т.д. быстродействие SAS и SATA жестких дисков - сравнимы, т.к. SAS хоть и имеет большую скорость вращения дисков, зато у SATA - выше плотность записи на пластинах.
Совсем другой вопрос - контроллер. Он берет часть нагрузки по дисковым операциям на себя, разгружая центральный процессор (в отличии от soft raid в интегрированных материнках, где он только грузит CPU). К контроллеру SAS можно подключать как диски SAS, так и диски SATA, по набору физических комманд они совместимы.
Внешний контроллер PCI-E можно брать спокойно - распаянные на платах делаются на таком же точно интерфейсе PCI-E, просто распаянном на плате, без разъемов.
На данный момент несомненным лидером среди производителей SAS и RAID контроллеров является фирма Adaptec.
Xeon - это то же ядро Core, только засунутое в другой разъем и отпозиционированное в другой рыночный сегмент, более прибыльный для производителя (потому он и дороже) + обвязка в чипсете для одновременной работы долее одного CPU в системе.
Что бы ответить, существуют ли другие решения, нужно более подробное описание задач, под которые собирается ПК.

Zhumak
   Спасибо вам за исчерпывающий, лаконичный ответ, остался один вопрос.
   Возможно ли подключение sas-устройства к sata2-разъему?

да возможно, но не будет всех вкусностей SAS. Контроллеры на PCI-Ex ни чем не отличаются от стандартных PCI. Они намного быстрее и к тому же амного дешевле в производстве. К тому же покупка такого компонента облегчит перенос раида с материнской платы на другую плату. Если раид массив будет на материнской плате, и потребуется апгрейд ситемы. перенос данных свидётся к проблеме, так же проблема будет, если материнская плата отдаст коньки.
Но всё же интересно для чего такие вычислительные мощности нужны, если для дома, то скорее всего лучше остановится на САТА2, если для работы, то лучше не останавливаться на RAID0 или RAID1, лучше собирать, что-то выше RAID3, 5. 10  и выше, в зависимости от того, что конкретно требуется(быстрый доступ к информации, надёжность её хранения, объём данных и тп)

Как позже выяснилось подключение sas-устройства к sata-контроллеру невозможно, так же я не сравнивал pci-express с pci, я сравнивал его с pci-x.
Касательно задач, как говорилось в вопросе, система берется для дома, нужна скорость, и приемущества описанные выше достаточно привлекательны.