Тинейджером в Чикаго Джин Крупа изучал игру на ударных, когда он нашел группу молодых белых джазменов, игравших в кинотеатре Саус Сайд. Эту группу сегодня помнят под названием Austin High Gang. В ее состав входили играющий на банджо Эдди Кондон, саксофонист Бад Фримен и барабанщик Дейв Таф. Крупа был очень впечатлен стилем Тафа и начал подражать его игре. Он подружился с Тафом, который взял его с собой посмотреть на джаз-бенд King Olivers Creole – послушать барабанщика группы Бэби Доддса. Доддс стал новым кумиром-ударником для Крупы.
Крупа начал выступать барабанщиком на джем-сейшнах, которые проводились в «тихом» баре «Три двойки» (через дорогу от театра «Чикаго»), и играл с такими музыкантами как Тешемахер, Бикс Байдербек и Бенни Гудман. Вскоре после этого Крупа начал играть в отдельных джазовых и коммерческих дэнс-группах Чикаго, включая Benson Orchestra, Тельма Терри и ее Плейбои, Al Gale, Джо Кайзер и другие.
В декабре 1927 года Ред МакКензи открыл сессию звукозаписи, которая представляла отдельные композиции Austin High Gang для лейбла Okeh. Сессии были изданы под именем МакКензи и чикагцы Кондона. На этих записях ударные Крупы были превосходными и звучали уникально, потому что были среди первых записей, которые представляли ударную установку полностью. Среди инженеров по звукозаписи в то время бытовало расхожее мнение, что большой барабан и тамтамы не будут хорошо звучать на записи, поэтому они отсутствуют на большинстве сессий записи 1920-х.
Крупа также появлялся на других сессиях звукозаписи Austin High, которые издавались под названиями Короли Джунглей, Короли Чикагских Ритмов и Чикагцы Френка Тешемахера. Эти пластинки в итоге стали называть звуками чикагского джаза, а музыкантов, которые играли в этом стиле - Чикагцами.
В 1928 году Condons Chicagoans направились в Нью-Йорк поучаствовать на бэке певицы Би Палмер, королевы шимми. Работа была провальной, Крупа и «Чикагцы» записали сессии с Редом Николсом и Миффом Моулом. В итоге, он оказался задействованным в нескольких бродвейских оркестровых выступлениях Реда Николса и играл в коммерческих дэнс-бэндах, которые вызывали небольшой интерес в джазовых кругах.
Так продолжалось до 1934 года, когда режиссер звукозаписи Джон Хэммонд нанял Крупу для оркестра Бенни Гудмена, который исполнял аранжировки Флетчера Хендерсона. Национальные радиотрансляции оркестра Бенни Гудмена привлекли огромное внимание к игре на ударных Крупы. К концу десятилетия Крупа становится звездой.
Его ударная часть в хите Гудмена 1936 года "Sing, Sing, Sing" была классическим барабанным гимном эре свинга, и его дневные соло-представления на сцене и камео в фильмах сделали его одной из самых значительных музыкальных звезд своей эпохи.
В 1938 году он покинул группу Гудмена и создал оркестр Джина Крупы, в состав которого входили трубач Рой Элдридж и певица Анита О’Дэй. Группа держалась на пике популярности до 1943, когда Крупу арестовали в Сан-Франциско за владение марихуаной. Ему грозило от одного до шести лет тюрьмы, но он был освобожден через восемьдесят дней под залог по апелляции. В конце концов, он смог выиграть дело против него, так как свидетельства были неправильно задокументированы, но это привело к распаду группы.
Он ненадолго воссоединился с Бенни Гудменом, прежде чем перейти в группу Томми Дорси.
Крупа собрал свой биг-бэнд заново в 1945 году, и он пользовался широкой популярностью до 1951 года, когда он поменял величину своей группы, чтобы она могла соответствовать изменяющимся стилям джаза, ушедшего от биг-бэндов к более мелким комбо модерн-джаза.
В отличие от большинства известных лидеров групп эры свинга, Крупа смог меняться с музыкой, когда в той стал доминировать Боп в 1950-х и 1960-х. В 1959 году вышел фильм под названием «Рассказ о Джине Крупе», где главную роль сыграл Сэл Минео. Этот фильм имел довольно неплохой успех.
В 1960-м Крупа пережил сердечный приступ и сократил свои выступления, частично уйдя со сцены. В начале 1970-х он участвовал в нескольких концертах-воссоединениях оркестра Гудмена. Он умер в 1973 году от сердечного приступа, одновременно страдая от лейкемии. До создании рок-группы 30 Seconds To Mars на его родине оставалось 25 лет.