To All The Ones That I Love wurde im bandeigenen Studio im Westen Melbournes aufgenommen, wobei Gitarrist Greg Rietwyk für Produktion und Mix zuständig war, bevor das Album von Kris Crummett (Closure in Moscow, Dune Rats, Currents) gemastert wurde. Dies ist das vierte Album von Press Club, und die Reife der Band spiegelt sich in den zehn Tracks wider. Dem Hörer wird ein Ritt durch verschiedene Genres geboten, während das Album Themen wie Introspektion, Entwicklung, Veränderung und das Lernen aus vergangenen Fehlern durchläuft. Die Band beschreibt die Entstehung des Albums als eine unglaublich spannende, kreative und befreiende Erfahrung: Die Songs wurden alle gemeinsam in ihrem Studio über mehrere Monate hinweg geschrieben. Diese Art des Schreibens gab der Band die Freiheit, mit verschiedenen Genres zu experimentieren und die Tiefen all ihrer Einflüsse auszuloten.