Конвертирование делается одной командой:
ffmpeg -i in.mp4 -filter_complex "[0:v] fps=12,split [a][b];[a] palettegen [p];[b][p] paletteuse" out.gif
В данном случае оптимальная палитра будет вычислена для всех кадров анимации.
Иногда для повышения качества картинки будет полезно вычислять палитру для каждого кадра отдельно:
ffmpeg -i in.mp4 -filter_complex "[0:v] fps=12,split [a][b];[a] palettegen=stats_mode=single [p];[b][p] paletteuse=new=1" out.gif