В 1918 году в Чикаго распался ансамбль новоорлеанских музыкантов, уехавших туда ранее. Среди других из него ушел корнетист Кеппард, организовавший собственный оркестр, и на его место был приглашен Оливер.

Незадолго до этого полиция устроила облаву на клуб, где он выступал. Среди прочих арестовали и Оливера, которому пришлось отсидеть какое-то время в кутузке, что привело его в страшную ярость. Джо давно уже выражал недовольство теми отвратительными условиями, в которых ему приходилось играть, да к тому же за такую жалкую плату, а тут еще этот неприятный случай. Он принял решение уехать в Чикаго, порекомендовав Ори взять на свое место Армстронга. Как вспоминает Ори, «в городе было немало хороших, опытных трубачей, но ни один из них не обладал такими большими исполнительскими возможностями, как Луи. Помню, как я сказал Армстронгу, что, если ему удастся раздобыть себе пару приличных брюк, я возьму его в свой оркестр. Через два часа он примчался в мой дом со словами: «А вот и я. Жду не дождусь, когда наступит восемь часов. Я готов начать». Так Луи Армстронг стал корнетистом лучшего джаз-бэнда в Новом Орлеане.