CUDA поддерживается всеми видеокартами Nvidia уже много лет (даже моя старушка 9500 GS поддерживает).
Ты задал кучу вопросов, но не ответил на мои… Я так до конца и не понял в чем проблема? Анимация медленно рендерится и зависает?
У тебя видеокарта дохлая! На ней в косынку играть, а не рендерить. Возможно создал слишком сложную сцену и ей ее 1 Гб (или и того 512 Мб) не хватает. Рендери на CPU!
Кодек тут не при чем и на будущее пиши все в одном посте.