Grafas Juozapas Tiškevičius (1835–1891) ir grafienė Sofija Tiškevičienė, gimusi Horvataitė (1837–1919), susituokė 1860 m. birželio 29 d. Barbarove, netoli Mozyriaus. Sofija buvo kilusi iš vengrų kilmės Horvatų giminės – jos tėvas Aleksandras Horvatas buvo Lietuvos Didžiosios Kunigaikštystės didikas.
1855–1865 m. Juozapas Lentvaryje pastatė šveicariško stiliaus dvaro rūmus ir pradėjo kurti parką prie ežero – čia jaunoji šeima gyveno iki 1875 m., kol persikėlė į Kretingą.
Šeimoje užaugo aštuoni vaikai iš dvylikos gimusių – tarp jų ir Vladislovas Tiškevičius, vėliau tapęs Lentvario bažnyčios fundatoriumi.