Johan Arneng började spela fotboll i IK Oddevold. Därefter flyttade familjen Arneng till Värmland och det blev spel i bland annat IFK Sunne. Han gick därefter på fotbollsgymnasiet i Degerfors. Som 18-åring flyttade Arneng till Empoli i Italien och blev ungdomsproffs i Empoli FC. Efter den säsongen flyttade han inför hösten 1999 till Norge och Raufoss IL. Efter tre säsonger i Opplandsklubben flyttade Arneng till Oslo där det blev en säsong med Vålerengen.
 
I februari 2003 skrev Arneng på för regerande svenska mästarna Djurgårdens IF som behövde en ersättare till Stefan Rehn. Johan Arneng bildade därefter mittfält med Kim Källström och Andreas "Adde" Johansson under första året och vann SM-guld med 58 poäng. Efter guldsäsongen 2003 fick Arneng prova på spel i svenska A-landslaget i början av år 2004. I augusti 2004 gjorde Arneng mål mot Juventus FC på Råsunda i Champions League-kvalets sista kvalomgång där Juventus gick vidare med sammanlagt 6–3. Säsongerna 2003–2006 spelade Arneng oftast som en av två defensiva mittfältare i lagets 4–3–3-system. Säsongen 2007 spelade Arneng som ensam defensiv mittfältare i lagets nya 4–1-3–2-system fram till juli då Aki Riihilahti köptes in och tog över rollen, vilket medförde att Arneng flyttades ut som högermittfältare. 


Kontraktet med Djurgården gällde till sista december 2008 men drygt ett år innan köpte norska Tippeliga-klubben Aalesunds FK loss Arneng för en ej offentliggjord summa. Efter tre säsonger i Aalesund blev det två säsonger i Syrianska FC respektive IK Sirius.
 
Johan Arneng är aktiv inom travsporten och har hörts som kommentator på Eurosport. Han är medlem i Djurgården Fotbolls styrelse sedan 2017.