Era mais fácil tu ter gravado direto no jogo.
o LoL replay não grava o vídeo, ele grava as informações que o servidor da Riot te manda, e armazena isso. Ele depois le os dados e refaz os gráficos a partir desses dados.
Pra gerar um vídeo, você precisa gravar a partida enquanto assiste ela no LoL Replay. Mais do que isso, você precisa controlar apropriadamente a câmera, já que a Riot não transmite todas as informações do mapa sempre. Ele te envia onde os campeões estavam, onde os minions estavam e outras coisas do gênero, mas HP dos minions e dos champions só enviado dos que estão na tela de quem está jogando (e consequentemente gravando).
De qualquer forma, o processo de gerar o vídeo é:
1) Ligar o fraps e configurá-lo corretamente.
2) Abrir a partida no LoL Replay.
3) Gravar o vídeo enquanto assiste a partida e controla as câmera.