Debemos saber qué quieres hacer en ese servidor y qué conocimientos tienes.
Si eres principiante en todo (servidores, diseño web y programación), cualquier con instalador automático de aplicaciones te vale (Wordpress, Joomla, Lavarel, etc).
Si sabes de programación, cualquiera que soporte el lenguaje y el tipo de base de datos con el que vas a trabajar. Como bien te dice Miguelangel López, la configuración normal suele ser LAMP.
Si sabes de todo, un VPS no administrado que puedas configurar a tu gusto. Así podrás instalar y configurar todo lo que necesites para tus proyectos.
Un servidor domestico te sobra con cualquier distribución Linux o incluso Windows e instalando un paquete ya preparado
Suelen llamarse LAMP en Linux y WAMP en Windows.
A de “Servidor Apache”
M de “Base de datos relacional MySQL”
P de “PHP”
Si tu intención es dar servicio a personas fuera de tu red ya es algo más complejo y requiere de más ajustes como permisos en tu router/firewall y ten en cuenta que no tendrás nombres de dominio y que tu IP seguramente será dinámica.
Pero para hacer pruebas a nivel local, montar una pequeña intranet e incluso con algunos programas adicionales convertir ese pc viejo en un servidor de archivos o similar te va a sobrar.
Una vez tengamos lista la parte de la instalación del servidor, estaremos listos para ponernos a programar. Desde este momento seremos capaces de ejecutar cualquier tipo de script web con tecnología html, php, css o javascript, desde nuestro ordenador como si fuese un servidor web.
También podemos utilizar nuestro propio ordenador como servidor web de cara a internet, es decir, que los demás usuarios podrán ver las páginas que tengamos dentro de nuestro ordenador en esa carpeta, el único inconveniente es que necesitaremos abrir los puertos del router, y si no queremos tener que publicar nuestra ip como dirección web, utilizar un dns dinámico que nos dé un nombre para enlazar a nuestra ip.