Насколько всем известно, бесплатные кодеки пока не могут дать такой производительности, как CoreAVC, но его выпускают только под винду. Группа энтузиастов решила исправить этот недостаток и они открыли проект http://code.google.com/p/coreavc-for-linux/
Но приведенная там инструкция по установке сложна и непонятна, поэтому был организован ppa https://launchpad.net/~ripps818/+archive/coreavc , откуда можно скачать пакеты mplayer и dshowserver, а также приведена инструкция упрощенной установки кодека.
Переведя и немного изменив эту инструкцию, привожу ее здесь, т.к. проблема очень актуальна.
1. Скачиваем в сети и устанавливаем CoreAVC 2.0.0 или выше c помощью wine (использовал wine 1.2 rc2 из PPA, при использованиии версий ниже правильную установку CoreAVC гарантировать не могу):
При установке попросит ввести серийник, его мы можем приобрести за $12,95 на сайте производителя http://corecodec.com/products/coreavc или использовать ресурсы всемирной паутины для его нахождения (второй способ конечно же нелегален!)
2. Добавляем репозиторий и обновляем список репозиториев:

sudo add-apt-repository ppa:ripps818/coreavc
sudo apt-get update

3. Устанавливаем из него пакеты mplayer и dshowserver

sudo apt-get install mplayer dshowserver

При установке mplayer у меня выдавало ошибку, типа мешает пакет mplayer-gui , который у меня был установлен уже давно, но после его удаления все прошло нормально. Да, при установке mplayer автоматом из сети вытянуло еще 5 пакетов зависимостей, но да это мелочи.
4. Копируем установленный кодек в каталог с dshowserver:

sudo cp “~/.wine/drive_c/Program Files/CoreCodec/CoreAVC Professional Edition/CoreAVCDecoder.ax” /usr/share/dshowserver/

Здесь путь, откуда копируется кодек, может чуть различаться, в зависимости от того, куда его поместил инсталлятор, так что некоторым возможно придется его поправить:
5. Теперь можем запускать свои HD фильмы с помощью mplayer c параметром -vc coreserve
Это если вы запускаете из консоли. Если вы хотите использовать хороший графический интерфейс плеера, при этом не дописывая вручную параметр, то установите последнюю версию SMPlayer. Он автоматом использует CoreAVC кодек, при условии, что он установлен в системе (конечно, если в настройках SMPlayer стоит галка “Use CoreAVC if no other codec specified” [Options-Preferences-H.264])

Все, теперь должно все отлично работать.