Sinceramente non ricompilerei un'intera distribuzione per Atom... Magari il kernel e/o le libc. A partire dalla versione 4.6 di gcc è possibile selezionare le opzioni "-mtune=atom -march=atom" per ottenere un codice compilato che funziona al meglio su processori atom (ma di conseguenza potrebbe non funzionare su alcuni altri processori).
prima del 4.6 utilizzavo opitimize for size (-oS) che era il più performante vista la poca cache di quel processore.
adesso ho una via nano. ed è più potente.