Kolkka begon zijn carrière in 1994 bij het Finse MyPa, waarna hij in 1995 naar Willem II vertrok. Daar speelde hij drie seizoenen voordat hij naar PSV transfereerde. Van 2001 tot 2003 kwam Kolkka uit voor Panathinaikos. De laatste twee seizoen waren respectievelijk Borussia Mönchengladbach en Crystal Palace zijn werkgevers.
In twaal seizoenen speelde de aanvaller 264 competitiewedstrijden, waarin hij 51 scoorde. Tevens wist Kolkka in 65 interlands voor Finland elf keer het net te vinden.
