Det finns inte något sådant program, demofilerna är script för att användas av quakemotorn för att spela upp händelserna i spelet, det går inte att göra om till film på något vis utan att blanda in quakemotorn, texturerna och ljudfilerna som förekommer.
Däremot kan jag starkt rekommendera fraps som ett bra program för att fånga OpenGL / DirectX streams mot grafikkortet och göra om till AVI för senare filmredigering, med ljud.
www.fraps.com
Om du inte är nöjd med detta har du kommandot cl_avidemo i Q3 för att dumpa ut screenshots i en viss frekvens (30 per sekund exempelvis) och på så vis få material till att slåihop och göra AVI på.
/G (jag har gjort en egen liten quakefilm - http://www.own-age.com/vids/video.aspx?id=371 den är dock gjord med cl_avidemo varianten)