Jussi nació el 29 de marzo de 1981 en el pequeño pueblo finés de Riihimäki. Al igual que todos los niños y niñas del Finlandia, el primer coqueteo con el deporte fue con el esquí. Su padre, Mikko, ganador de varias medallas en todo Finlandia, le enseñó a esquiar.
Comenzó con el esquí de fondo pero lo que Jussi quería era adrenalina y velocidad, por lo tanto se decantó por los descensos y curvas vertiginosas del esquí alpino.
Pero el invierno no dura eternamente ni en Finlandia. Cuando la nieve se iba, los esquís eran de poca utilidad así que se vio obligado a cambiar de disciplina. Se dio cuenta que con una bicicleta podría ir tan rápido como con unos esquíes. Así comenzó a cambiar los esquís por la bicicleta y se recorrió el país entero ganando trofeos y medallas.
Como junior se dio cuenta que podía hacer algo grande y se decidió a competir por toda Europa logrando algunas victorias y podios. Ese mismo año comenzó a trabajar con su entrenador Antti Hagqvist.
En su cambio de disciplina, Jussi se enteró de que Esko Lummelampi iba a crear un equipo con Tommy Sigg. Poco después se pusieron en contacto con el y se convirtió en el comienzo de su carrera profesional.
En 2002, se enroló junto con su amigo Kimmo Kananen en el equipo Team Mälarenergi – Sime, un equipo de licencia sueca, de tercera división y con 3 españoles en plantilla (Angel Alfaro, Rafael Ballester y Antonio Glas). Los resultados no se hicieron esperar, se hizo con el subcampeonato nacional de ruta y C.R.I. por detrás, en ambos, de su compañero de equipo Jukka Heinikainen. Además de eso, dejo sus primeros destellos en vueltas de una semana logrando una meritoria 13ª posición en la general final de la Vuelta a Suecia.
Al año siguiente, su último año en el Team Mälarenergi, logró su primera victoria como ciclista profesional: El campeonato nacional en ruta. Ese mismo año, el exciclista finés Joona Laukka, le puso en contacto con el director deportivo francés Cyrille Guimard para formar parte de la plantilla del nuevo equipo amateur francés Roubaix. Entonces Guimard, fascinado por el talento y la determinación de Jussi, se hizo cargo de su carrera. Ese mismo año logró más de 10 victorias en el calendario amateur francés e hizo bronce en los dos campeonatos nacionales. A mediados de temporada, Gimard se puso en contacto con Marc Madiot (Team Manager del equipo Pro Tour Française des Jeux) y tras varias visitas para ojear a Jussi decidió contratarle para el próximo año.
En 2005, en su primera temporada en el equipo, repitió victoria en el campeonato finés de ruta y se dedicó a acumular experiencia en el durísimo calendario europeo profesional. Además de debutar en la Vuelta a España.
El año siguiente fue el de la explosión, logró la nada despreciable cifra de 4 victorias: Etapa y general final de La Tropicale Amissa Bongo Ondimba, 2ª etapa del Tour du Poitou Charentes et de la Vienne y logró su tercer entorchado en el campeonato nacional de ruta. También debutó en el Giro de Italia, dejándose ver en varias etapas.
En 2007 Marc Madiot decidió que era la hora de que Jussi aumentara el nivel de su calendario. No logró ninguna victoria pero concluyo dos grandes vuelta en un mismo año: El Giro de Italia y la Vuelta a España.
En 2008 llegó su victoria más importante logrando la victoria en la 6ª Etapa del Tour de Alemania, de categoría Pro Tour, imponiendo al sprint a un grupo reducido de 11 unidades. Pero no se conformó con eso, unió a su palmarés su cuarto entorchado nacional de ruta y la 4ª etapa de la Route du Sud.
Al año siguiente fue el su debut en el Tour de Francia. Empezó el año muy regular: 9º en la general final de Tour Down Under, 2º en la general final del Tour Méditerranéen y 3º en la general final del Tour du Haut Var. La segunda parte del año la dedicó a conocer el Tour y logró un 9º puesto en la prueba francesa de un día GP d’Isbergues – Pas de Calais como puesto más destacable. El 5 de julio se convirtió en el primer finlandés en llevar un maillot oficial en el Tour de Francia: el maillot de la montaña.
En 2010, con un calendario sin grandes vueltas ha logró dos victorias: La primera en la 2ª etapa del Tour Méditerranéen y en la segunda ha conquistado su quinto oro en el nacional de ruta con su amigo Kananen en 3ª posición.
El año siguiente las cosas cambiaron para Jussi ya que cambió su casa, Française des Jeux, por el potente equipo belga de categoría Pro Tour: Omega Pharma. Resultó ser un año muy flojo para Jussi lo que sumado al cambio de sponsor por parte del equipo ha hecho que vuelva a su casa esta temporada.
Este año, con un calendario de máximo nivel, los resultados están siendo discretos pero pueden ser la base para la vuelta de la mejor versión de Veikkanen.