Не, погоди...
Есть PMP Mod, а есть PMP Mod AVC.
Первый проигрывает PMP, где видео-кодеком DivX\XviD, а второй - где H264...
Далее, если ты сделаешь не совместимое видео (например, при кодировании с помощью x264 будешь использовать не поддерживаемые PSP опции (затрудняюсь сразу сказать - какие ?! там были какие-то ограничения по B-frames и т.п. Более того, автор PMP Mod AVC даже сделал собственную модификацию кодека x264, где бОльшая часть этих фич зарублена на корню. лично я пользуюсь как раз ею...), то как раз так PSP и будет реагировать ! Я тут как раз пару дней убил, пытаясь изобрести способ конвертации PMP->MP4 без переконвертации видео... большинство полученных разными способами MP4 именно так и делали - отрубали ЗыЗу... а на компе, естественно, всё было хорошо.