den första förfrågan om Kronprinsens äktenskap kom från Neapel när Joseph var bara tolv år gammal. Vid den tiden styrdes det södra italienska kungariket Neapel och Sicilien av en säkerhetslinje av Bourbonerna. Ordningen att alliera Habsburg och Bourbon dynastierna hade sina attraktioner. I det här fallet föreslogs ett dubbelt äktenskap: den österrikiska arvtagaren till tronen var att gifta sig med en napolitansk prinsessa och den napolitanska kronprinsen för att bli make till en av Habsburg ärkeherrarna., Reaktionen i Wien var positiv, men det föreslogs att planerna kunde vänta i några år.
kort därefter, år 1755, uppstod utsikterna till en union med Isabella av Parma (1741-1763). Förslaget kom från Frankrike, eftersom den norra italienska hertigdömet Parma styrdes av en säkerhetslinje i den spanska Bourbon-dynastin. Bourbonerna i Parma var således bara en kadettgren av en säkerhetslinje av Bourbonerna, och Parma själv var en obetydlig mindre stat. Men på hennes mors sida var Isabella ett barnbarn till Louis XV av Frankrike.,
detta förslag hade en konkret politisk bakgrund. Under renversementet des alliances, den diplomatiska känslan av Maria Theresas regering, hade den gamla ”ärkefienderna” Frankrike och Österrike blivit allierade. Nu skulle den nya alliansen cementeras av en serie äktenskap mellan de två dynastierna.
år 1759 tillkännagavs äktenskapsplanerna officiellt. Joseph och hans brud Isabella var båda arton år gamla vid denna tidpunkt.
reaktionen i Neapel var ursprungligen en av förolämpningar, men ett sätt konstaterades att desarmera situationen., Den napolitanska prinsessan Maria Luisa lovades till ärkehertig Karl Joseph, som som nästa äldsta son efter Joseph var den presumptiva storhertigen av Toscana, där en Habsburg secundogeniture skulle etableras. Även här hade ödet andra idéer, eftersom Karl Joseph dog 1761 vid en ålder av bara sexton. Maria Luisa skickades vederbörligen vidare till Maria Theresas nästa son, ärkehertig Peter Leopold.,
de nuptiala firandet för Joseph och Isabella år 1760 var ett överdådigt och kostsamt skådespel som var avsett som en offentlig visning av monarkins oförminskade resurser, som vid den tiden var inblandad i fientligheter (bröllopet ägde rum under sjuårskriget). Ett intryck av den legendariska pompa av detta bröllop kan vinnas från den berömda cykel av målningar på Schönbrunn som ger en detaljerad redogörelse för vad som skulle vara den sista stora fest i Barockåldern i Wien.,
Joseph blev förtrollad av sin brud och blev djupt kär i henne, en kärlek som dock inte återvände i samma grad. Isabella växte mycket nära ärkehertig Marie Christine, en av hennes mans systrar. Den nuvarande korrespondensen mellan de två kvinnorna vittnar om ett mycket intimt, kanske till och med lesbiskt förhållande.
Isabella hade ett skarpt intellekt och var högutbildad, något som var ovanligt för kvinnor i hennes dag. Hon var av en melankolisk disposition och verkar ha drabbats av depression och till och med hemsökt av förmaningar om döden.,
hon kände rollen som hustru och mor som hon hade tilldelats som ett pålägg, och framför allt ogillade att se sig själv reduceras till sin funktion som en ”kull mare”. Josephs fru blev gravid fem gånger under de tre åren av deras äktenskap. Tre av dessa graviditeter slutade i missfall. Deras enda överlevande barn, en dotter född 1762, namngavs Maria Theresia efter sin mormor. En ytterligare graviditet år 1763 var imperiled när Isabella kontraherade smittkoppor., Hon bar en tjej som dog omedelbart efter födseln, som skulle följas fem dagar senare av sin mamma, som bara var tjugotvå. För Joseph var detta ett hårt slag.
Josefs dotter Maria Theresia dog 1770 vid åtta års ålder, djupt sörjd av sin far, som verkar aldrig ha kommit till rätta med sitt enda och mycket avgudade barns död.
Josephs andra äktenskap, med Maria Josefa av Bayern (1739-1767), som han ingått på uppmaning av sin mor 1765 efter att han hade blivit helig romersk kejsare, var en omisskännlig katastrof., Maria Josefa var dotter till den bayerska elektor Karl Albrecht och ärkehertig Maria Amalie, dotter till kejsar Joseph I. som den bayerska elektor hade inga söner, detta äktenskap var en del av ett system på Maria Theresa del att så småningom göra anspråk på territorium Bayern.
Maria Josefa beskrivs som fysiskt oattraktiv och ganska långsam men också tillgiven och söthärdad. Hon försökte förgäves att vinna Josephs känslor men ignorerades systematiskt av honom. Äktenskapet var nog aldrig fullbordat., Hon frigavs från sin förödmjukande position vid Wiens hov genom sin tidiga död. År 1767, när en smittkoppsepidemi slog många medlemmar av Maria Theresas familj, drabbades Maria Josefa också av sjukdomen och dog oupphörligt av sin man.
nu två gånger Änka, Joseph motsatte sig därefter eventuella ytterligare äktenskapsplaner från sin mor.
detta betyder dock inte att Joseph levde ett liv av monastisk avhållsamhet. Han nöjde sin köttsliga aptit i otaliga affärer med kvinnor från lägre sociala skikt som var gemensamma kunskaper vid den tiden., Han ska ha Fader många illegitima barn. Kejsaren var också känd för att besöka prostituerade men var ökänd för att vara hårt styrda när det gällde att betala för sina tjänster, vilket fortfarande intygas idag av följande inskription på ingången till ett hus på Spittelberg i Wien, då en fjärdedel av dåligt anseende och centrum av stadens red light district: ”Durch dieses Thor im Bogen, kam Kaiser Josef II. geflogen” (”kejsaren Joseph II kom flyger genom denna båge”).