La prima inchiesta sul matrimonio del principe ereditario venne da Napoli quando Giuseppe aveva appena dodici anni. A quel tempo il regno meridionale italiano di Napoli e Sicilia era governato da una linea collaterale dei Borboni. Lo schema di allearsi con le dinastie asburgiche e borboniche aveva le sue attrazioni. In questo caso fu proposto un doppio matrimonio: l’erede al trono austriaco doveva sposare una principessa napoletana e il principe ereditario napoletano diventare il marito di una delle arciduchesse asburgiche., La reazione a Vienna è stata positiva, ma è stato suggerito che i piani potrebbero aspettare alcuni anni.
Poco dopo, nel 1755, sorse la prospettiva di un’unione con Isabella di Parma (1741-1763). La proposta venne dalla Francia, poiché il ducato di Parma era governato da una linea collaterale della dinastia borbonica spagnola. Così i Borboni a Parma erano semplicemente un ramo cadetto di una linea collaterale dei Borboni, e Parma stessa era uno stato minore senza importanza. Tuttavia, da parte di sua madre Isabella era una nipote di Luigi XV di Francia.,
Questa proposta aveva un background politico concreto. Nel corso del renversement des alliances, la sensazione diplomatica del regno di Maria Teresa, i vecchi ‘arci-nemici’ Francia e Austria erano diventati alleati. Ora la nuova alleanza doveva essere cementata da una serie di matrimoni tra le due dinastie.
Nel 1759 i piani di matrimonio furono annunciati ufficialmente. Giuseppe e la sua sposa Isabella erano entrambi diciotto anni a questo punto.
La reazione a Napoli fu inizialmente di affronto, ma fu trovato un modo per disinnescare la situazione., La principessa napoletana Maria Luisa fu promessa all’arciduca Carlo Giuseppe, che come il successivo figlio maggiore dopo Giuseppe era il presunto granduca di Toscana, dove doveva essere stabilita una secundogenitura asburgica. Anche qui il destino aveva altre idee, poiché Karl Joseph morì nel 1761 all’età di soli sedici anni. Maria Luisa fu debitamente trasmessa al successivo figlio di Maria Teresa, l’arciduca Pietro Leopoldo.,
Le celebrazioni nuziali per Giuseppe e Isabella nel 1760 furono uno spettacolo sontuoso e costoso che era inteso come un’esposizione pubblica delle risorse immutate della Monarchia, che all’epoca era coinvolta nelle ostilità (il matrimonio ebbe luogo durante la guerra dei sette anni). Un’impressione della leggendaria pompa di questo matrimonio può essere acquisita dal famoso ciclo di dipinti a Schönbrunn che forniscono un resoconto dettagliato di quella che doveva essere l’ultima grande festa dell’età barocca a Vienna.,
Giuseppe rimase incantato dalla sua sposa e se ne innamorò profondamente, un affetto che però non fu ricambiato nella stessa misura. Isabella crebbe molto vicino all’arciduchessa Marie Christine, una delle sorelle del marito. La corrispondenza esistente tra le due donne attesta una relazione molto intima, forse anche lesbica.
Isabella aveva un intelletto acuto ed era altamente istruita, qualcosa che era insolito per le donne del suo tempo. Era di indole malinconica e sembra essere stata afflitta da depressione e persino perseguitata da premonizioni di morte.,
Sentiva il ruolo di moglie e madre che le era stato assegnato come un’imposizione, e soprattutto non amava vedersi ridotta alla sua funzione di “cavalla da nidiata”. La moglie di Giuseppe rimase incinta cinque volte durante i tre anni del loro matrimonio. Tre di queste gravidanze si sono concluse con aborti spontanei. La loro unica figlia sopravvissuta, una figlia nata nel 1762, fu chiamata Maria Theresia dopo la nonna. Un’ulteriore gravidanza nel 1763 fu messa in pericolo quando Isabella contrasse il vaiolo., Partorì una bambina che morì subito dopo la nascita, per essere seguita cinque giorni dopo dalla madre, che aveva solo ventidue anni. Per Giuseppe questo fu un duro colpo.
La figlia di Giuseppe, Maria Theresia, morì nel 1770 all’età di otto anni, profondamente addolorata dal padre, che sembra non aver mai fatto i conti con la morte del suo unico e tanto idolatrato figlio.
Il secondo matrimonio di Giuseppe, con Maria Josefa di Baviera (1739-1767), che stipulò su insistenza di sua madre nel 1765 dopo che era diventato Imperatore del Sacro Romano Impero, fu un disastro assoluto., Maria Josefa era figlia dell’elettore bavarese Karl Albrecht e dell’arciduchessa Maria Amalie, figlia dell’imperatore Giuseppe I. Poiché l’elettore bavarese non aveva figli, questo matrimonio faceva parte di un piano da parte di Maria Teresa per rivendicare il territorio della Baviera.
Maria Josefa è descritta come fisicamente poco attraente e piuttosto lenta, ma anche affettuosa e dolce. Cercò invano di conquistare gli affetti di Giuseppe, ma fu sistematicamente ignorata da lui. Probabilmente il matrimonio non fu mai consumato., Fu liberata dalla sua umiliante posizione alla corte viennese con la sua morte prematura. Nel 1767, quando un’epidemia di vaiolo colpì numerosi membri della famiglia di Maria Teresa, anche Maria Josefa contrasse la malattia e morì senza essere ascoltata dal marito.
Rimasto vedovo due volte, Joseph si oppose successivamente a qualsiasi altro progetto di matrimonio fatto da sua madre.
Tuttavia, questo non significa che Giuseppe abbia vissuto una vita di astinenza monastica. Ha soddisfatto i suoi appetiti carnali in innumerevoli affari con le donne provenienti da strati sociali inferiori che erano di conoscenza comune al momento., Si suppone che abbia generato numerosi figli illegittimi. L’imperatore era noto anche per le prostitute, ma era noto per essere un tight-fisted quando si trattava di pagare per i loro servizi, come ancora oggi attestata dal seguente scritta all’entrata di una casa a Spittelberg a Vienna, poi un quarto della cattiva reputazione e il centro della città, il quartiere a luci rosse: ‘Durch dieses Thor im Bogen, kam l’imperatore giuseppe II. geflogen’ (‘Imperatore Giuseppe II, arrivò attraverso questo arco’).