Si estás intentando instalar VMWare en Windows 11, sobre VirtualBox, es posible que te encuentres con una pantalla rosa/morada (PSOD) que te impide instalar la máquina virtual.

Para solucionar los primeros problemas debemos hacer lo siguiente:

Primero, vamos a Aislamiento del módulo y desactivamos la integridad de memoria.

Una vez desactivado, tenemos que desactivar el Hypervisor de Windows, de lo contrario este se sobrepone encima de VirtualBox y no permite usar el suyo propio.

bcdedit /set hypervisorlaunchtype off

Recomendaciones adicionales:
SO: Linux 64 Bits
Network: Adaptador Puente
Video: VMSVGA
RAM: +4GB

Con estas modificaciones ya podremos inicar el ISO de VMWare ESXI