De acordo com as regras da produtividade linguística, o verbo "desmatricular" é facilmente compreensível.
Espontaneamente, alguns falantes poderão usar este verbo, mas, como não é frequente a sua utilização, os dicionaristas ainda não o registaram. Se este verbo se tornar frequuente, então, naturalmente, surgirá em novos dicionários.
"Matriculação" e "desmatriculação" também ainda não figuram nos dicionários.
As formas em uso são, realmente, «cancelar a matrícula» e «cancelamento da matrícula». São expressões que se têm revelado suficientemente explícitas e eficazes. Muitas vezes, as formas perifrásticas superam as formas sintéticas.