Pour trouver le programme qui consomme le plus de mémoire :

$ ps -efF --sort rss

Il faut regarder la 6e colonne (rss) et le plus gros consommateur se trouve en bas.