Mám obavu že ani to přeinstalování moc nepomůže, myslím že XMedia používá přinejmenším většinu kodeků interních.
Asi bych ten problém zkusil rozdělit do mezikroků - nejdříve dekomprimovat do RAW formátu (v XMedia Codec="Raw Video") a pak až teprve řešit kompresi. Ať se ví, zda ke zhoršení kvality dochází při kompresi nebo dekompresi. Zdrojový formát by neměl kompresi ovlivňovat, tak spíš je asi problém s dekompresí. Pak to možná vyžaduje použít jiný konvertor, např. Freemake Video Converter nebo AVCHD Converter.
Napadá mě - není to AVCHD video prokládané? Pak by mohl být problém při převodu na neprokládané video - v XMedia je to ve filtrech filtr "Deinterlace". Je tam hodně možností pro převod, ale nemám vyzkoušené kterou metodu doporučit. Špatně zvolený filtr by způsobil zubatění hran, což asi není tento případ problému.