comúnmente al instalar un sistema linux limpio en virtualbox no se instalan todas las dependencias para que funcione de manera optima el sistema operativo y al intentar instalar el virtualboxguest da error de instalación como el siguiente

para evitar estos y algunos detalles mas sugiero que se instalen las siguientes aplicaciones
apt update && apt upgrade
apt install build-essential
apt install linux-headers-$(uname -r)
apt install module-assistant
module assistant prepare
apt-get install gcc make perl
Después de terminar. puedes instalar sin problemas VirtualboxGuest