Lo primero que debemos hacer es instalar el testing repo, para eso nos cambiaremos a /etc/yum.repos.d y bajaremos el repo:
cd /etc/yum.repos.d/
wget http://dev.centos.org/centos/5/CentOS-Testing.repo
Ahora que lo tenemos instalado podemos proceder a instalar el kvm:
yum --enablerepo=c5-testing install kvm kmod-kvm
Una vez arrancado tienes que tener en cuenta una precaución. El kvm no funciona en un kernel XEN.
Debes reiniciar tu máquina con un kernel que no sea xen, si es que estás en xen.