В качестве опции вывода используйте -qscale:v (или псевдоним -q:v). Эффективный диапазон для JPEG составляет 2-31, а наихудшее качество - 31. Я рекомендую попробовать значения 2-5.
Вы можете добавить -huffman optimal для небольшого, но измеримого уменьшения размера выходного файла.
Чтобы вывести серию изображений:
ffmpeg -i input.mp4 -qscale:v 2 output_%03d.jpg
Для вывода одного изображения с длительностью ~ 60 секунд: