В плане безопасности постфикс будет лучше сендмейла, так что с этой точки зрения именно его стоило бы выбрать. Для начала стоит пробовать найти может он уже есть в системе. Это делается командой:
$ rpm -qa | grep postfix
Для дистрибутивов дебиан есть очень простая команда, которая сразу же позволяет устанавливать почтовый сервер постфикс. Для остальных дистрибутивах все немного иначе.
$ apt-get -y install postfix
Предпочитаю QMail - данный сервер легче устанавливается, безопаснее, работает на Macintosh и имеет ряд иных преимуществ. Созданием почтовых серверов не интересуюсь. Зачем, когда есть уже существующие?