Josef "Jocke" Ekholms pappa hade ett bageri i Hagalund och det var i Hagalund som Jocke växte upp i början av 1900-talet. Efter att familjen flyttat först till Orresta utanför Västerås och sedan till Skuru kom de 1918 att bosätta sig på Hagagatan. Där skulle Jocke och hans tre bröder Gösta, Elis och David snart få kontakt med AIK:s juniorer.
1923, när Jocke var 22 år gammal, blev Jocke och AIK Svenska mästare. SM avgjordes då i en utslagsturnering och AIK slog ut i tur och ordning IK Sirius (2-0), Östermalms IF (1-0), IFK Uddevalla (7-3 efter förlängning), IFK Malmö (2-1) och i finalen IFK Eskilstuna (5-1).
Säsongen 1924-25 startade den moderna Allsvenskan med Jocke Ekholm som AIK:s ordinarie högerback. AIK slutade på femte plats, en placering som upprepades de närmaste två åren. Men därefter dalade Jocke Ekholms stjärna. Han fick göra några enstaka matcher per säsong och efter 1929 blev det inget mer A-lagsspel.
Jocke Ekholm hade AIK närmast hjärtat hela livet. Han gifte sig aldrig utan bodde kvar i föräldrahemmet på Hagagatan 10, 1 trappa, ända fram till sin död 1953, en knapp månad innan han skulle fylla 52 år.