Vou tentar ser bem didático porque é complicado.
Quando você faz o resgate parcial de uma aplicação de renda fixa o valor que vc recebe é parte do principal aplicado e parte do rendimento, veja o exemplo:
Imagine que você fez uma aplicação de 1000 reais (principal) e depois de certo tempo vc teve 250 reais de rendimento, vc tem no total 1.250 (liquidos).
Observe que:
1000 é 80% do total (1250)
E o rendimento de 250 é 20% do total (1250)
Entao, se vc resgatar 500 reais, esse valor será formado por 80% do principal e por 20% do rendimento, dessa forma seria retirado 400 reais do principal (1000) e 100 reais do rendimento (250).
O restante que ficaria aplicado seria 600 reais do principal e 150 do rendimento que continua aplicado, totalizando 750 reais.
Fazer esse acompanhamento manual por um longo tempo é extremamente complexo mas a lógica é essa aí.
Além de tudo isso aí, tem a questão da tributação, que dificulta ainda mais o cálculo.