první dotaz týkající se manželství korunního prince přišel z Neapole, když Josefovi bylo pouhých dvanáct let. V té době bylo jihoitalské království Neapole a Sicílie ovládáno vedlejší linií Bourbonů. Schéma spojování habsburských a Bourbonských dynastií mělo své atrakce. V tomto případě bylo navrženo dvojité manželství: rakouský dědic trůnu se měl oženit s neapolskou princeznou a neapolským korunním princem, aby se stal manželem jedné z habsburských arcivévodů., Reakce ve Vídni byla pozitivní, ale bylo navrženo, že plány mohou počkat několik let.
krátce poté, v roce 1755, vznikla vyhlídka na spojení s Isabellou z Parmy (1741-1763). Návrh přišel z Francie, protože severoitalské vévodství Parma bylo ovládáno vedlejší linií španělské dynastie Bourbonů. Bourboni v Parmě byli tedy pouze kadetskou větví vedlejší linie Bourbonů a Parma sama o sobě byla nedůležitým menším státem. Isabella však byla z matčiny strany vnučkou francouzského Ludvíka XV.,
tento návrh měl konkrétní politické pozadí. V průběhu renversement des alliances, diplomatické pocit Marie Terezie vládnout, starý ‚úhlavní nepřátelé Francie a Rakousko se staly spojenci. Nyní měla být nová aliance upevněna řadou manželství mezi oběma dynastiemi.
v roce 1759 byly manželské plány oficiálně oznámeny. Joseph a jeho nevěsta Isabella byli oba osmnáct let v tomto bodě.
reakce v Neapoli byla zpočátku jedním z urážek, ale bylo zjištěno, že způsob, jak situaci zmírnit., Neapolská princezna Marie Luisa byla slíbil, že Arcivévody Karla Josefa, který jako druhý nejstarší syn Joseph byl předpokládaný velkovévoda Toskánska, kde Habsburské secundogeniture měla být stanovena. I zde měl osud jiné myšlenky, protože Karl Joseph zemřel v roce 1761 ve věku pouhých šestnácti let. Maria Luisa byla řádně předána dalšímu synovi Marie Terezie, arcivévodovi Petru Leopoldovi.,
svatební oslavy pro Joseph a Isabella v roce 1760 byly bohaté a nákladné představení, které bylo určeno jako veřejné zobrazení nezmenšenou zdrojů Monarchie, která v té době byla zapojena do bojových akcí (svatba se konala během sedmileté Války). Dojem z legendární okázalost tato svatba může být získána ze slavného cyklu obrazů na Schönbrunn, které poskytují detailní záznam toho, co měla být poslední velkou slavností Barokní věku ve Vídni.,
Joseph byl okouzlen svou nevěstou a hluboce se do ní zamiloval, náklonnost, která však nebyla vrácena do stejné míry. Isabella se velmi přiblížila Arcivévodkyni Marii Christine, jedné ze sester svého manžela. Existující korespondence mezi oběma ženami svědčí o velmi intimním, možná dokonce lesbickém vztahu.
Isabella měla bystrý intelekt a byla vysoce vzdělaná, což bylo neobvyklé pro ženy její doby. Měla melancholickou dispozici a zdá se, že byla postižena depresí a dokonce pronásledována předtuchami smrti.,
cítila v roli manželky a matky byla přidělena jako uložení, a především rád viděl sama, snižuje se její funkce jako ‚kobyla‘. Josephova manželka otěhotněla pětkrát během tří let jejich manželství. Tři z těchto těhotenství skončila potraty. Jejich jediné přežívající dítě, dcera narozená v roce 1762, se jmenovala Maria Theresia po babičce. Další těhotenství v roce 1763 bylo ohroženo, když Isabella nakazila neštovice., Porodila dívku, která zemřela bezprostředně po narození, po pěti dnech ji následovala její matka, které bylo jen dvacet dva. Pro Josefa to byla těžká rána.
Joseph dcera Marie Terezie zemřela v roce 1770 ve věku osm, hluboce truchlil její otec, který se zdá být nikdy se smířit se smrtí své jediné a tolik zbožňoval dítě.
Joseph druhého manželství, Marie Josefa Bavorská (1739-1767), který vstoupil do na naléhání své matky v roce 1765 poté, co se stal Císařem Svaté říše Římské, byla naprostá katastrofa., Marie Josefa byla dcerou Bavorského kurfiřta Karla Albrechta a Arcivévodkyně Marie Amalie, dcera Císaře Josefa I. Jako Bavorský kurfiřt neměl žádné syny, a toto manželství bylo součástí programu na Marie Terezie část nakonec činit nárok na území Bavorska.
Maria Josefa je popisována jako fyzicky neatraktivní a poněkud pomalá, ale také láskyplná a sladce temperovaná. Marně se snažila získat Josefovu náklonnost, ale byla jím systematicky ignorována. Manželství pravděpodobně nikdy nebylo dokončeno., Z ponižujícího postavení na Vídeňském dvoře ji propustila předčasná smrt. V roce 1767, kdy epidemie neštovic zasáhla četné členy rodiny Marie Terezie, se Maria Josefa také nakazila nemocí a zemřela bez povšimnutí jejím manželem.
nyní dvakrát Ovdovělý, Joseph následně odolal jakýmkoli dalším manželským plánům, které jeho matka učinila.
to však neznamená, že Joseph žil život klášterní abstinence. Uspokojil své tělesné choutky v nesčetných záležitostech se ženami z nižších sociálních vrstev, které byly v té době všeobecně známé., Měl zplodit řadu nemanželských dětí. Císař byl také známý na návštěvu prostitutky, ale byl notoricky známý pro bytí skoupý, když to přišlo k placení za své služby, tak stále svědčí dnes o následující nápis na vchodu do domu na Spittelberg ve Vídni, pak čtvrt nevalné pověsti a centrum města je red light district: ‚Durch dřík Thor im Bogen, kam Císař Josef II. geflogen „(dále jen „Císař Josef II. přijel létání přes ten oblouk‘).