No voy a entrar acá en el debate de si se debe o no instalar los Guest Additions de Virtualbox en un servidor o máquina virtual que no posea entorno gráfico,  más bien voy a asumir que por una u otra razón ya decidimos que necesitamos los Guest Additions en nuestro servidor, en este caso Ubuntu Server, pero al ser esta una distro que no tiene entorno gráfico pues no es tan fácil de hacerlo como con Ubuntu Desktop.
 
Primero que nada hay que asegurarnos de que nuestro Server está actualizado (si ya lo has hecho obvia esta parte)

Debes tener privilegios de administrador para ejecutar estos comandos, yo voy a usar el usuario root contraviniendo las recomendaciones de los expertos.

(ojo: el símbolo # es el prompt de Linux para root, NO es parte del comando)

#aptitude update
#aptitude safe-upgrade

Reiniciar el servidor
#reboot


Ahora instalamos los requerimientos del Guest Additions

#aptitude install dkms linux-headers-server

Ok, ya estamos listos para la instalación lo anterior solo fue el trabajo previo.

Lo siguiente es montar en el CD de la máquina, la imagen de los Guest Additions.

1. En el menú Dispositivos seleccionar la opción Montar CD/DVD-ROM y luego seleccionar Imagen CD/DVD-ROM.

2. Luego, marcar la imagen VBoxGuestAdditions.iso y click en Seleccionar.

 

En la consola del server montamos el CD en el sistema de archivos del Servidor

#mount /media/cdrom

Copiar el instalador de los Guest Additions de tu plataforma en mi caso utilizo x86, así que copiaré el archivo VBoxLinuxAdditions-x86.run  al directorio root

#cp /media/cdrom/VBoxLinuxAdditions-x86.run /root

Ejecutar el instalador.

#sh /root/VBoxLinuxAdditions-x86.run

Después de esto ya tendremos corriendo los Guest Adittions en nuestro Ubuntu Server.