Acredito que você pode ter sofrido com o mesmo problema que aconteceu comigo. Quando eu fui fazer o reconhecimento, ao invés de aproximar meu rosto, eu aproximei o celular e mantive meu rosto parado. O que eu recomendo que você faça, é apoiar o celular em uma mesa de forma que o celular fique imóvel e você faça o procedimento. Deixe o celular parado até a barrinha roxa chegar ao final.
Vale também dar uma limpada na lente/vidro da câmera, garantir que está num local iluminado e se o app está atualizado.