Si tienes el AA activado el HDR lo tienes desactivado y viceversa ;-)
Prueba primero con uno y luego con otro, a ver cual de los dos te da mejor resultado en el pixelamiento.

Luego prueba con una resolución a 1440x900 o alguna mas inferior a la que nombras, así probando ves que resultados obtienes.
No te digo que vayas a conseguir la linea perfecta pero igual aumentas un poco la definición.