Иосиф был живым и подвижным мальчиком, с ярким темпераментом, который он, однако, умел сдерживать. В атом проявились нойбургские гены матери, и первое время и его характере бурная жажда деятельности доминировала над рассудительностью, педантичностью и некоторой нерешительностью отца. Он получил прекрасное воспитание, с самого начала ориентированное на его высокое предназначение в будущем. В 1684 году, когда Иосифу не исполнилось еще шести лет, он был отделен от воспитывавших его до сих пор женщин — матери, кормилицы и окружавших их дам. При этом необычным было то, что за полтора года до назначения ему воспитателя, обергофмейстера князя Карла Теодора фон Зальма, к мальчику был приставлен духовник в лице тогда священника, а позднее епископа Вены Франца Фердинанда фон Руммеля. Свои педагогические принципы Руммель сформулировал собственноручно, и в них можно усмотреть основы почти что современных знаний в области психологии юношества (Rummel, 47ff.). Эрцгерцогу предстояло освоить весьма обширную учебную программу под руководством выдающихся педагогов того времени. В число иностранных языков входили латынь, итальянский, испанский, чешский, венгерский и французский. Наряду с этим Иосиф должен был изучить частное и государственное право, прежде всего имперское право, военное дело и фортификацию, познакомиться с искусствами и музыкой, а также физическими упражнениями, в число которых входили верховая езда и танцы. Естественно, особое место должна была занимать религия. Среди учителей Иосифа были известный публицист Иоганн Якоб Вагнер фон Вагенфельс, автор известною в то время патриотического «Воззвания к чести Германии», который, преподавал историю и политику, а также юрист, будущий имперский референдарий Иоганн Георг фон Буоль, и Иоганн Бернгард Фишер фон Эрлах, крупный архитектор эпохи барокко.
Иосиф был очень способным юношей и наибольших успехов добился в изучении языков. Как и все Габсбурги, он любил музыку, прекрасно играл на флейте и иногда, подобно отцу, сочинял музыку. От отца он унаследовал страсть к охоте. Однако в отличие от добропорядочного отца, Иосиф уже с юных лет проявлял ненасытную склонность к женскому полу. Многочисленные романы наследного принца с придворными дамами, а также и с камеристками доставляли немало забот его родителям, являвшим собой высокий образец безупречной морали, и в особенности благочестивой аскетичной матери, с которой у него неоднократно происходили бурные объяснения. Он часто менял фавориток, первой из которых была Доротея Даун, сестра будущего фельдмаршала графа Вириха Дауна. Его последней и политически наиболее влиятельной фавориткой была Марианна Пальффи, дочь венгерского магната. После смерти Иосифа его мать и жена отомстили ей далеко не самым благородным образом.
Попытка обуздать его ранним браком оказалась неудачной. 24 февраля 1699 года Иосиф женился на Амалии Вильгельмине Ганноверской, дочери герцога Ганноверского Иоганна Фридриха. Амалия была на пять лет старше и считалась красавицей. Она родила ему двух дочерей и сына, который, однако, вскоре умер. Но надолго привязать Иосифа к себе она не смогла, в особенности после того, как выяснилось, что она стала бесплодной. Это было следствием венерической болезни, которой заразил ее Иосиф (Ingrao, 36–37).
Иосифа рано потянуло к политической деятельности. Еще мальчиком он дал понять окружающим, сколь высоко он ценит свое положение дважды коронованного короля и будущего императора. Вокруг молодого короля, казавшегося энергичным, честолюбивым и пылким, вскоре после его женитьбы сформировался «молодой двор», который быстро превратился в центр оппозиции против старых советников и императора, который с возрастом проявлял все большую нерешительность. Основными деятелями этого двора были бывший воспитатель Иосифа князь Карл Теодор Зальм, вспыльчивый и темпераментный человек, уроженец Рейнской области и последовательный приверженец имперской политики, принц Евгений Савойский, прославленный победитель турок, его друг граф Иоганн Венцель Вратислав, весьма способный государственный деятель и дипломат, крупный специалист в области финансов граф Гундакер Штархемберг и молодой, талантливый, по ленивый дипломат Филипп Людвиг фон Зинцендорф. Все они надеялись, что Иосифу удастся преодолеть влияние старых и косных помощников его отца и провести реформы, и которых остро нуждалось государство перед лицом угрожающего развития событий в Европе. Маркиз де Вийяр, французский посол в Вепс, еще в 1698 году весьма скептически писал об Иосифе: «Принц необуздан и погружен и удовольствия. Он разумен, по характер его еще не установился, и его может потянуть как в хорошую, так и в дурную сторону». Подобная критика в дальнейшем будет раздаваться все громче.
Однако бесспорно, что в это время со стороны наследника престола уже исходили политические импульсы. После смерти Карла II, последнего из испанских Габсбургов, Иосиф был одним из тех, кто побудил императора вступить в борьбу за испанское наследство для своей династии против Филиппа Анжуйского, внука Людовика XIV, которою французский король, в соответствии с завещанием Карла II, посадил на испанский троп. В войне за Испанское наследство Иосиф и его окружение представляли при дворе партию войны. Не в последнюю очередь именно трудности со снабжением армии и хроническая нехватка денег подвигли Иосифа на проекты внутриполитических реформ, которые он начал, однако не успел довести до конца. Молодой король, ненавидевший «французских дьяволов», обещал научить их «хорошим манерам» и в 1702 году отправился в лагерь императорского генералиссимуса маркграфа Людвига Вильгельма Баден-Баденского на Рейне. Здесь он принял участие в осаде и штурме Ландау, по, несмотря на всю личную храбрость, не проявил полководческих талантов. Истинное место его было в Вене.
По и там ему мало что удалось сделать, поскольку в министерствах его отца пока что господствовал старый добрый австрийский девиз, согласно которому наилучшим методом решения большинства проблем является самотек, а излишнее усердие часто приносит вред, а не пользу. Вскоре, однако, этот подход привел к очевидным неудачам, что подтвердило правильность критики со стороны наследника и в конечном итоге помогло тому добиться успеха. Леопольду было трудно расстаться с бездарными министрами, ибо он был уверен в их верности ему лично и его династии, но во время кризиса 1703 года, после банкротства придворного банкира Оппенгеймера, приведшего к неплатежеспособности казначейства, император уволил председателя Надворной палаты (казначейства) графа Залобурга и президента придворного военного совета графа Мансфельда и назначил на их места выдвиженцев «молодого двора» — графа Гундакера Штархемберга и принца Евгения Савойского. За этими кадровыми перестановками, безусловно, стоял Иосиф. Естественно, наряду с этим на решение императора должны были повлиять жалобы принца Евгения, чьи успешные операции в Италии в 1701 году застопорились из-за нехватки денег, личного состава и вооружения, опасное продвижение Макса Эмануэля в Тироль, за которым последовали его успех в сражении при Гохштедте, и восстание Ракоци в Венгрии, которое уже угрожало Вене.
В начале 1704 года Иосиф возглавил «депутацию посредников», в которую вошли Зальм, принц Евгений и Штархемберг. Этот орган был призван спасти финансовую ситуацию. Иосиф также стал председателем на всех военных совещаниях, и казалось, что «молодой двор» одержал полную победу. Прибывший в январе в Вену зять императора Леопольда курфюрст Иоганн Вильгельм Пфальцский, Филипп Людвиг Зинцендорф, а также представитель находившегося в Испании эрцгерцога Карла граф Молес присоединились к партии наследника. Принц Евгений и Вратислав совместно с английским полководцем и государственным деятелем Мальборо разработали стратегию, которая привела к победе под Гохштедтом и перелому в войне в пользу императорской армии.
Но император пока еще не собирался выпускать вожжи из рук. Летом 1704 года влияние «молодого двора» вновь пошло на убыль, а положение старых и, казалось бы, уже смещенных советников при поддержке императрицы стало укрепляться. По рекомендации этих советников был основан государственный банк (жиробанк — банк для безналичных расчетов), который быстро обанкротился. Иосиф вновь отправился на войну и в сентябре 1704 года принял участие в осаде временно захваченного французами Ландау. В своей штаб-квартире в Ильбесхайме он 7 ноября 1704 года подписал договор, по которому завоеванная Бавария попадала под прямое управление императора.