@anacarolsza achei!
O Nubank usa o “Algoritmo de Verhoeff” para gerar o código verificador, confome citado aqui
Aqui a explicação de como funciona
E para testar
Coloquem o número da conta sem o dígito no primeiro campo aqui
https://kik.amc.nl/home/rcornet/verhoeff.html
Clique em Compute Value e ele vai preencher com o dígito verificador correspondente abaixo.