A finales de marzo de 2013, Joy lanzó su EP debut God Loves You When You're Dancing, seguido de la publicación del sencillo «Riptide». Canción que según el artista, empezó a componer en 2008, a los veintiún años, pero desistió ya que pensaba que «era demasiado simple»; sin embargo, años más tarde al escribir nuevos acordes decidió fusionar ambas composiciones, y al recibir buenos comentarios por parte de sus familiares luego de compartirla en Facebook, decidió finalizar «Riptide» en 2012. Para promocionarlo, Joy pagó la producción de un videoclip con un dinero que había ahorrado de trabajar en un centro de llamadas. El tema inicialmente se convirtió en un éxito en Australia al entrar en la posición 6 de la lista de sencillos australiana, y pasó cinco semanas entre las diez principales de dicho listado y para mayo de 2015 la Australian Recording Industry Association (ARIA) anunció que había perdurado ciento siete semanas sucesivas entre las cien posiciones del ranquin de sencillos australiana, lo que convirtió a Joy en el primer artista que logró dicho hito. En el informe de ventas discográficas de la ARIA de 2013 en Australia, «Riptide» figuró como el sencillo australiano más vendido del año y el segundo con más descargas continúas, y en reconocimiento a sus ventas en Australia la ARIA lo certificó cinco veces platino, lo que equivale a 350 000 unidades vendidas. En 2013, «Riptide» figuró como el tema más popular del año en la encuesta anual realizada por la radio australiana Triple J.