MEncoder, que es parte de
MPlayer, es el mas completo que probe hasta ahora, permite codificar usando x264, XviD, DivX o los codec provistos por los FFMPEG. (libavcodec). Posee un exelente manual
aqui. Como veras es una aplicacion controlada por linea de comandos, pero posee una GUI,
GMEncoder, sin embargo no la pude hacer andar, hojala tengas mas suerte, y tene en cuenta que no posee todas las funciones que ofrece la version manejada desde la terminal.
Tambien tenes los
FFMPEG, que pueden ser usados por separado.
Otra opcion es
Transcode, similar al MEncoder, y que tiene su GUI
GTranscode. Tampoco lo probe aun.
Lo ideal es que los instales desde el gestor de paquetes de tu distro, asi te ahorras dolores de cabeza compilando y demas.