A fost component al clubului Corvinul Hunedoara, debutând în Divizia A la data de 7 martie 1979 în înfrângerea din deplasare cu Sportul Studențesc, scor 2-0. Din 1983 s-a transferat la FC Dinamo București. În anul 1990, a fost transferat la echipa spaniolă Elche pentru 125.000 de dolari. Are la activ un număr de 55 de selecții în prima reprezentativă[3], 255 de meciuri în Divizia A și 35 de goluri marcate[3].
Andone a câștigat pînă acum eventul cu două formații diferite, cu Dinamo (2004) și CFR Cluj (2008), fiind unul dintre puținii antrenori români care au reușit această performanță. În afară de acestea, a mai câștigat în 2003 și în 2005 Cupa României cu Dinamo București.
În martie 2008 a fost decorat cu Ordinul „Meritul Sportiv” clasa a III-a, pentru rezultatele obținute la națională și pentru întreaga activitate.[4][5]
La începutul lunii octombrie 2009, cînd Dinamo București l-a concediat pe tehnicianul Dario Bonetti, Ioan Andone a fost dorit de conducătorii clubului în funcția de antrenor, însă nu a putut onora oferta din cauză că se afla sub contract cu clubul Al-Ahli Dubai.[6] În 2010 s-a despărțit însă de Al-Ahli pentru a prelua conducerea echipei bulgare ȚSKA Sofia[7]. După doar două luni, tehnicianul român a părăsit formația sofiotă[8] și a ales să pregătească pe Rapid București[9]. Rapid ratează însă cupele europene pentru al doilea an consecutiv[10] și astfel Andone alege să se despartă de giuleșteni și să accepte oferta venită de la Dinamo cu care semnează un contract pentru două sezoane[11].
În aprilie 2012 semnează un nou contract cu formația CFR Cluj.