Yo en su momento te recomendé Netscape Composer, que viene dentro de Netscape Navigator (http://www.netscape.com).
Acabo de echarle un vistazo para ver cómo es ahora el Composer, y, oye, no sabía lo mucho que había mejorado.
Con Composer puedes diseñar perfectamente una página a golpe de ratón o editar el código manualmente, te comprueba la sintaxis, te permite previsualizarla al tiempo que la haces, y encima te la publica. No necesitas programas de FTP ni leches en vinagre. Todo lo que necesitas para hacer un pequeño website y publicarlo está en Composer.
Creo sinceramente que para iniciarse no hay mejor opción.
No te recomiendo usar los programas de Microsoft para hacer páginas web. Sí, te exportan la página y blablabla... pero... luego no siempre salen las cosas como uno espera, y además las páginas ocupan una barbaridad. Sin embargo, Dreamweaver tiene una función para limpiar el código HTML de los ficheros generados con Word. ¡Y no veas cómo adelgazan!