Não existe melhor opção, depende do seu gosto. O ideal é testar uma por uma e ver qual te agrada mais. Eu, por exemplo, jogo apenas com o filtro bilinear ativado, o que equivaleria ao filtro de imagem "automático" ou "nenhum", com a opção de suavização ativada.
Entretanto, conforme o colega citou acima, aspect ratio é algo muito importante. Até esqueci de citar. Se não me engano, a tradução que o Batocera utiliza pra esse termo é "formato de tela". A maioria dos consoles e jogos de fliperama antigos foram feitos para serem executados no formato 4/3, então é um valor legal pra se utilizar. A exceção fica por conta de alguns jogos de fliperama (por exemplo, shooters verticais) e portáteis. Daí, cada um tem seu aspect ratio. Para esses, utilizar o formato "square pixel" é um bom começo, se você não tiver ideia do que está fazendo.