В Бруклине, став членом местной молодежной банды, Аль Капоне вымогал деньги у торговцев-кондитеров и китайцев, владевших несколькими прачечными. В 1919 году, в возрасте 20 лет, он впервые был арестован за драку. Друзья наняли приличного адвоката, и тот сумел спасти Альфонса от тюрьмы.

К тому времени Аль Капоне уже работал вышибалой в кафе "Оберж Гарвард", и силу его кулаков испытали многие. В феврале 1920 года он перебрался в Чикаго (второй по величине город Америки), где подручный босса чикагской мафии Джима Колозимо Джонни Торрио устроил его вышибалой в кафе с весьма выразительным названием "Кафе четырех чертей". По словам писателя Д. Ройберта, Аль Капоне тогда был "коренаст и довольно невзрачен — плоский нос и толстые скабрезные губы". Кроме этого, левую сторону его лица украшал косой шрам длиной в шесть с половиной сантиметров, который он «заработал», служа вышибалой в "Оберж Гарварде", заработал за дело: оскорбил сестру своего соотечественника-итальянца, и тот, выхватив нож, исполосовал обидчику лицо. После этого Аль Капоне и получил свою знаменитую кличку «Скарфэйс» (Лицо со шрамом).

Между тем вышибалой в «чертях» Аль Капоне проработал недолго: Джонни Торрио решил поручить ему работу посолиднее.

Как известно, с января 1919 года в США вступил в действие "сухой закон", и официальная продажа спиртных напитков была запрещена. Местная мафия тут же воспользовалась ситуацией и наладила подпольное изготовление и продажу алкоголя. В Чикаго этим делом занималось несколько банд, самыми влиятельными из которых были банды итальянцев (Джим Колозимо) и ирландцев (Джордж Морон, Дайон О'Банион). Первые базировались в южной части города, вторые — в северной. Между бандами то и дело возникали трения, которые заканчивались стрельбой. Ситуация порой менялась стремительно, и старик Джим Колозимо явно за ней не поспевал. В это время Джонни Торрио и решил выступить против своего шефа (тот приходился ему еще и родным дядей), то есть попросту его убрать. Исполнить операцию должен был Аль Капоне с двумя наемными убийцами. 11 мая 1920 года главарь чикагской мафии Джим Колозимо был убит в своей квартире. Его преемником стал Джонни Торрио, который своим заместителем взял, естественно, Аль Капоне.

К 1923 году некогда неуклюжий и непредставительный Аль Капоне сильно изменился. Теперь он являл собой самоуверенного делового человека. Он прибавил в весе, погрузнел и обзавелся собственным парикмахером и портным. Кроме этого, после многочасовых занятий с опытным преподавателем, он исправил дикцию, перестал нецензурно выражаться. Его гардероб насчитывал порядка 150 костюмов и такое же количество пар обуви, которые он менял ежедневно. Именовал он себя на американский манер — Аль Брауном — и очень злился, если кто-то по старой памяти называл его Аль Капоне.

К 1923 году банда Торрио-Капоне насчитывала в своих рядах около 700 человек и по-прежнему контролировала юг Чикаго. После смерти Колозимо они заключили мирный договор с «северянами», и этот договор соблюдался несколько лет.

Территориально банда «южан» базировалась в пригороде Чикаго — Сисеро, в четырех милях к востоку. Переехали они туда все в том же 1923 году, после того как на очередных выборах мэра города победил кандидат реформистов. Реформисты мечтали уничтожить мафию в городе, однако эта мечта тогда так и не осуществилась.

Доходы чикагской мафии в те годы составляли 100 тысяч долларов в неделю (Торрио-Капоне порой зарабатывали 70 миллионов долларов в год). Это были огромные деньги, и, естественно, обладать ими каждая банда хотела только в одиночку. Поэтому в 1924 году война между «южанами» и «северянами» вспыхнула с новой силой.

Поводом послужило убийство главаря ирландцев Дайона О'Баниона. Убили его, правда, за дело. Он продал один из своих пивных заводов Торрио и сразу же навел туда полицейских. Торрио потерял свои деньги и едва не угодил в тюрьму. За это Дайон О'Банион и был приговорен к смерти. Убийцы настигли его в цветочном магазине, которым он владел официально.

С погибшим мафиози прощались три дня, и мимо гроба с его телом прошло около двадцати тысяч человек. Похоронная процессия была одной из самых пышных в истории чикагских похорон, для цветов понадобились 26 грузовиков (на похоронах Колозимо было лишь 20). Пришли и Торрио с Аль Капоне. Они были вооружены, в любой момент ожидая ответного удара ирландцев. Но те не стали омрачать похороны и на время траура «забыли» о мести, но только на время траура, на две недели.

24 января 1925 года Торрио с женой возвращались домой, у самых ворот дома их обстреляли из автоматов. Торрио, несмотря на многочисленные ранения, чудом остался жив, но, став калекой, решил сложить с себя полномочия дона мафии. На первом же собрании он объявил об этом, назвал имя своего преемника — Аль Капоне. Это прозвучало как гром среди ясного неба: Капоне был неаполитанцем, и до этого момента все доны были с Сицилии.

Лидер по своей натуре, Аль Капоне с огромным рвением взялся за дело, и банда обрела второе дыхание. Доходы ее росли, численность увеличивалась. В недрах организации была даже создана своя контрразведка, названная «Джи-2»

Зная, что за ним будут постоянно охотиться ирландцы, которые объединились с поляками и евреями, Аль Капоне обзавелся бронированным автомобилем. Когда же случалось ему оказаться без автомобиля его спасало чудо. Так, весной 1926 года, Аль Капоне со своей подружкой завтракал на открытой террасе кафе в Сисеро. Внезапно на нескольких автомобилях подъехали «северяне». Аль Капоне опередил их на долю секунды, бросившись на пол прежде, чем прибывшие открыли ураганную стрельбу. Он остался жив, его подружка, не столь проворная, была убита.

Ответ Аль Капоне был скор и эффективен. Его жертвой стал один из главарей «северян» Хайли Вейсс, чье убийство произошло по всем канонам бандитской профессии. Когда Вейсс подошел к дому своей матери, он увидел у дверей нищего, просящего милостыню. Вейсс достал монету, чтобы бросить ее в шляпу нищего, а тот в ответ выхватил из рваной одежды пистолет и разрядил его в Вейсса.

В 1926 году Аль Капоне праздновал победу на всех «фронтах». В том году на очередных выборах мэра Чикаго победил его ставленник Билл Томпсон, и Аль Капоне вернулся в город — теперь его офис располагался в отеле «Лексингтон» на Мичиган-авеню. Чикаго тогда превратился чуть ли не в столицу североамериканской мафии. Половина городской полиции была куплена, кроме этого, под "тяжелой пятой" Аль Капоне находилось 90 профсоюзов. Доход Аль Капоне достиг 105 миллионов долларов в год. Имея такие деньги, он решил наконец заняться легальным бизнесом и взял под охрану городские магазины, гаражи, рынки. Однако мир и спокойствие не наступили. Появившиеся в городе молодежные группировки тоже желали иметь свой кусок от жирного пирога и готовы были сразиться даже с таким авторитетом, каким стал 28-летний Аль Капоне.

Так банда братьев Айелло (девять братьев) заключила договор с ирландской группировкой Джорджа Морана. Братья объявили "крестовый поход" против Аль Капоне и устроили за ним настоящую охоту. Для этого из четырех американских городов в Чикаго были вызваны четверо профессиональных киллеров, которым было обещано 50 тысяч долларов, если кто-то из них отправит на тот свет Аль Капоне. Однако у того были не менее опытные киллеры (например, Джек Макгорн), которые работали более профессионально, нежели люди братьев Айелло. В результате все четверо были убиты прежде, чем успели встретиться с Аль Капоне.

В те дни улицы Чикаго напоминали поле настоящего боя. Напуганные разгулом насилия граждане города, потребовали от властей принятия срочных мер для обуздания преступников. Полиция Чикаго официально обратилась к ветеранам войны во Франции с просьбой прийти на работу в полицию. На этот призыв откликнулось 500 человек, с оружием в руках они вышли на патрулирование улиц.

1928 год — зенит славы Аль Капоне. В том году сам шеф чикагской полиции Фрэнк Лотш обратился к нему за консультацией по поводу проведения президентских выборов. На этой встрече Аль Капоне пообещал, что его мафия будет держаться в стороне от выборов.