Depois de arrepender-se, o uso da preposição de é correto.

O verbo arrepender é um verbo pronominal (arrepender-se) que rege geralmente a preposição de (cf. Winfried Busse, Dicionário Sintáctico de Verbos Portugueses, Coimbra, Livraria Almedina, 1994):

1. «Arrependo-me de lhe ter dito toda a verdade.»

2. «Poderá arrepender-se de ter optado por um PC Wintel.»¹

Nos exemplos 1 e 2, apenas se apresentam casos em que a preposição introduz uma oração de infinitivo, mas também é possível associar-lhe expressões nominais e pronomes:

3. «Arrependeu-se dos seus pecados/disso.»

Está igualmente correta a regência construída com por, mas na expressão introduzida por esta preposição torna-se mais saliente o valor causal, sobretudo se se tratar de orações de infinitivo:

4. «Arrependo-me por lhe ter dito toda a verdade.»

5. «Poderá arrepender-se por ter optado por um PC Wintel.»

Em 4 e 5, a sequência introduzida por por revela-se ambígua do ponto de vista da sua análise, porque, embora possa aceitar-se como regência alternativa a de, também é legítimo considerá-la como uma expressão circunstancial (de causa).

¹ Exemplo retirado do Corpus do Português, de  Mike Davies e Michael Ferreira.