Dok je još živio u Šibeniku, Mate Mišo Kovač volio je svoju vršnjakinju Vesnu, ali ju je ostavio nakon preseljenja u Zagreb, te je tijekom ljetnih nastupa na obali slomio srce bogatoj Šveđanki Ingrid, čiji je otac posjedovao četiri tvornice. Ingrid je planirala udati se za Mišu, već je imao avionsku kartu za Švedsku u džepu, ali nije pristao na primamljivu bračnu ponudu. Prvi brak s Ljubicom Komadinom sklopio je početkom 70-ih. Dušan Šarac, skladatelj, autor, dugogodišnji glazbeni urednik u vodećim diskografskim kućama bivše države i umjetnički direktor Šibenskih večeri dalmatinske šansone, bio mu je kum na vjenčanju. Jednom je rekao da se Ljubice sjeća kao vrlo vesele i društvene osobe. 

Budući da nisu mogli imati djecu, postupno su se udaljili. Razveli su se nakon četiri godine braka kada se on zaljubio u Miss Teen Jugoslavije Anitu Baturinu. Splićanku je upoznao 1971. godine, a isprva su se tajno sastajali (Anita je imala 18 godina, dok je Mišo imao 30 i bio je oženjen). "Imali smo dosta 'problema s porodom' kada smo se upoznali. Ona je bila srednjoškolka, ja oženjen muškarac. Jako sam želio da budemo zajedno", priznao je Mišo u jednom od svojih intervjua. Kada su počeli hodati, Anita je napustila školu i pratila pjevača na turnejama. Mišo se oženio Anitom 1973. godine, a 1975. dobili su sina Edija, a 1977. kćer Ivanu. Kad god je mogao, vodio je cijelu obitelj na turneje. Anita se brinula o njihovom domu i bila je predana njihovoj djeci, ali onda se dogodila velika tragedija. U travnju 1992. umro im je sin Edi (govorilo se i o samoubojstvu i ruskom ruletu, ali Mišo je tvrdio da mu je sin ubijen). Anita se nakon strašne tragedije okrenula religiji, a kći Ivana upala je u razne probleme iz kojih se srećom izvukla uz veliku podršku obitelji. Mišo se povukao u sebe i počeo pretjerano uzimati tablete za smirenje.

Zatim je uslijedila još jedna tragedija - njegov pokušaj samoubojstva u siječnju 1999. Samo nekoliko mjeseci kasnije, izašla je vijest koja je mnoge šokirala. Naime, Mišo je odlučio napustiti obitelj i pronaći sreću u zagrljaju druge žene, gatare Silvije Conte Calvi Marković, 30 godina mlađe, nakon što mu je prišla u kafiću i rekla da mu može pomoći. Nakon razvoda, Anita se preselila u Tribunj i započela novu vezu i život s Vinkom Gulinom. "Mišo je upravo napustio naš stan. Nakon nekoliko dana, koliko mi je trebalo da ga dobijem telefonom, sreli smo se u Motelu Plitvice na zagrebačkoj obilaznici. Dok smo sjedili za stolom i gledali ga, mogla sam samo reći da ne vjerujem da mu se ovo dogodilo. Samo je kratko rekao: 'Evo, dogodilo se.' To se meni nikada neće dogoditi, pomislila sam i napustila motel. To je bio kraj naše ljubavi", rekla je jednom prilikom. Silvija je ubrzo otišla, a s njom je, kaže se, otišla i velika količina novca, a onda je Mišo 1998. upoznao Lidiju Pintarić, svoju sadašnju suprugu, koja mu je dala mir. „Postoje zaljubljeni parovi, ali imaju dvije duše. Lidija i ja imamo jednu dušu“, rekao je Mišo u intervjuu za Slobodana Dalmaciju.