Утром 6-го июля Блюмкин пришёл в ЧК. У дежурной секретарши в общей канцелярии он попросил стандартный бланк Чрезвычайной комиссии и отпечатал на нём следующее.
"УДОСТОВЕРЕНИЕ.
Всероссийская чрезвычайная комиссия уполномочивает её члена Якова Блюмкина и представителя Революционного трибунала Николая Андреева войти в переговоры с Господином Германским Послом в Российской Республике по поводу дела, имеющего непосредственное отношение к Господину Послу.
Председатель Всероссийской чрезвычайной комиссии.
Секретарь".
Блюмкин расписался за секретаря ВЧК Ксенофонтова, а один из членов партии левых эсеров — подделал подпись Дзержинского. Заверив документ печатью ВЧК и получив машину Блюмкину выдали тёмного цвета «паккард» с открытым верхом, Яков отправился в гостиницу «Националь», где его уже ждал Николай Андреев. Там террористы получили последние инструкции. Им были вручены две бомбы и два револьвера, которые они спрятали в портфели. Вышли к машине.
Яков вручил шоферу револьвер и сказал повелительным тоном:
— Вот вам кольт и патроны. Езжайте тихо. У дома, где остановимся, не выключайте мотора. Если услышите выстрелы, шум — не волнуйтесь. Ждите нас!
В три часа дня они подъехали к особняку германского посольства в Денежном переулке потом — улица Веснина. На звонок в дверь открыл швейцар. Блюмкин на ломаном немецком языке сказал, что он и его товарищ хотят беседовать с господином послом. Швейцар начал что-то объяснять. Из сказанного им удалось понять лишь, что их сиятельство и другие господа изволят обедать и что надо немного подождать.
Минут через десять к посетителям вышел советник посольства Бассевитц. Блюмкин предъявил ему мандат и заявил, что он является представителем советского правительства и просит графа Мирбаха принять его. Бассевитц взял мандат и ушел доложить о визите. Вскоре в приемную прибыли первый советник посольства Карл Рицлер и военный атташе лейтенант Леонгарт Мюллер.
— Вы от господина Дзержинского? — обратился к посетителям Рицлер.
— Да, я — Яков Блюмкин, член ВЧК, а мой товарищ — Николай Андреев, представитель революционного трибунала.
— Пожалуйста, проходите.
Блюмкина и Андреева провели через вестибюль и зал в гостиную, предложили сесть.
— Я имею строгое предписание от товарища Дзержинского говорить с господином послом лично, — заявил Блюмкин.
Рицлер ответил, что граф не принимает и что он, как первый советник посольства, уполномочен вести вместо него все переговоры, в том числе и личного характера. Однако Блюмкин настаивал на своём: ему поручено беседовать только с графом.
Граф Мирбах, опасаясь покушений, избегал приёма посетителей. Однако, узнав, что прибыли официальные представители советской власти, он всё-таки решился побеседовать с ними. Посол в сопровождении Рицлера появился в гостиной.
Сели за круглый массивный мраморный стол с одной стороны — Блюмкин, напротив него — Мирбах, Рицлер и Мюллер. Андреев расположился поодаль, у дверей. Яков разложил на столе бумаги и стал объяснять послу, что ВЧК арестовала его родственника, офицера австро-венгерской армии, по обвинению в шпионаже. Блюмкин действительно работал с братом посла и знал все подробности этого дела. К тому же он привёз подлинные протоколы допроса которые и продемонстрировал господину послу.
— Меня, господин Блюмкин, всё это мало интересует, — заметил тот. — Я и моя семья не имеют ничего общего с арестованным вами офицером.
— Ваше сиятельство, — обратился к графу Рицлер. — Я полагаю, что следует прекратить этот разговор, а Чрезвычайной комиссии дать письменный ответ через Народный комиссариат иностранных дел.
В этот момент в разговор вмешался Андреев, в течение всей беседы молча сидевший в стороне. Он спросил:
— Видимо, господину графу интересно знать, какие меры будут приняты с нашей стороны?
— Да, господин посол, вы желаете это знать? — повторил вопрос Блюмкин.
Граф ответил утвердительно. Вопрос Андреева, видимо, был паролем. Блюмкин, не дожидаясь ответа посла, выхватил револьвер и произвел несколько выстрелов по Мирбаху, Рицлеру и Мюллеру. Рицлер и Мюллер упали на пол, однако сам граф побежал в соседний зал. Андреев догнал посла и кинул ему под ноги бомбу, но и тут случилась заминка потому что бомба не взорвалась. Тогда Андреев сильным ударом свалил графа. Блюмкин в ту же секунду наклонился, подхватил неразорвавшуюся бомбу и бросил её в Мирбаха. Наконец детонатор сработал и раздался оглушительный взрыв. Посыпалась штукатурка, взлетели в воздух плитки паркета, воздушной волной вышибло стекла.
Оставив на столе шляпы, револьвер, документы и портфель с запасной бомбой, террористы кинулись к окну. Андреев благополучно выпрыгнул на улицу и через несколько секунд уже был в автомобиле. Блюмкин же, соскакивая с подоконника, повредил ногу. С трудом он стал карабкаться через железную ограду. Из здания посольства открыли стрельбу. Одна из пуль попала в Блюмкина но он всё-таки сумел перелезть и, хромая, побежал к автомобилю. Кубарем он ввалился в салон. Машина рванула в сторону Пречистенки и скрылась из виду.
Через несколько минут автомобиль с террористами уже въезжал во двор особняка Морозова в Трехсвятительском переулке. Здесь размещался штаб наиболее многочисленного отряда ВЧК, которым командовал левый эсер Попов. Блюмкина поместили в лазарет. Чтобы затруднить розыск Якова остригли сбрили ему бороду.
Согласно этике эсеров исполнители террористического акта должны были остаться на месте его совершения и позволить себя арестовать. Однако Андреев и Блюмкин бежали. Впоследствии по этому поводу Яков напишет:
«Думали ли мы о побеге? По крайней мере, я — нет… нисколько. Я знал, что наше деяние может встретить порицание и враждебность правительства, и считал необходимым и важным отдать себя, чтобы ценою своей жизни доказать нашу полную искренность, честность и жертвенную преданность интересам революции. Перед нами стояли также вопрошающие массы рабочих и крестьян — мы должны были дать им ответ. Кроме того, наше понимание того, что называется этикой индивидуального террора, не позволяло нам думать о бегстве. Мы даже условились, что если один из нас будет ранен и останется, то другой должен найти в себе волю застрелить его» 16.
Как бы там ни было но Блюмкин бежал. И бегал до апреля 1919-го года пока не надумал сдаться властям. Несмотря на то что убийство графа Мирбаха привело к обострению отношений между Советской Россией и Германией и послужило толчком к мятежу левых эсеров со всеми вытекающими Блюмкин отделался очень лёгким наказанием. 16 мая 1919-го года Президиум ВЦИК учитывая добровольную явку Блюмкина и данное им подробное объяснение обстоятельств убийства германского посла амнистировал его.
Сегодня нам это кажется диким но современники Блюмкина считали его героем и более того — гордились знакомством с ним. Вот например что говорил Николай Гумилёв о том как он познакомился с Блюмкиным.
«Человек среди толпы народа застреливший императорского посла подошёл пожать мне руку сказать что любит мои стихи».
Насчёт толпы народа поэт конечно погорячился но само это высказывание весьма характерно для того времени.
После освобождения Яков Блюмкин возвращается к своей привычной жизни сотрудничает с ВЧК готовит террористические акты против генералитета Белой армии, развлекается в компании поэтов-имажинистов.
В сентябре 1920-го года Яков Блюмкин по направлению Наркоминдела был зачислен на Восточное отделение Академии Генерального Штаба РККА. Отделение готовило кадры для армейской службы на восточных окраинах Советской Республики и для военно-дипломатической работы. Слушатели изучали основы стратегии, тактику родов войск, службу Генштаба, военную географию, строительство Красной Армии, военную психологию и шесть социально-экономических дисциплин — философские и социологические основы марксизма, основы внешней политики, социальную психологию, Конституцию РСФСР, теорию социализма, железнодорожное хозяйство. На Восточном факультете изучались дополнительно персидский, арабский, турецкий, китайский, японский и другие языки. Блюмкин специализировался по Персии.