Роден е во Сицилија од благочестиви и добродетелни родители, Плотин и Агатија. По смртта на родителите премина во Солун, каде што се замонаши.

Како монах на сите им беше пример во постот, во крајната воздржливост, непрестаната молитва и псалмопеење, бдеењето и трудољубивоста. Солунскиот епископ го ракоположи за јеромонах. Кога прочуениот Григориј Декаполит го посети Солун, од дното на срцето го засака Јосиф заради неговиот редок карактер, па го зеде со себе во својот манастир во Цариград.

Кога повторно изби пламенот на иконоборната ерес под Лав Ерменин, овој Јосиф беше испратен во Рим да ги повика папата и римската Црква во борба за вистинската вера. Но, по пат го фатија гусари и го доведоа на Крит, каде што еретиците шест години го држеа во затвор. Светиот Јосиф се радуваше зашто се удостои да пострада за Христа и непрестано за ова Му благодареше на Бога сметајќи ги како златни украси железните окови на своето тело. Шестата година на Божиќното утро злочестивиот цар Лав беше убиен во црквата за време на утрената.

Во истиот тој час на Јосиф му се јави светиот Николај и му рече: „Стани и следи ме!“ Тој се почувствува како подигнат во воздухот и одеднаш се најде во Цариград. На неговото доаѓање му се израдуваа сите правоверни. Им испеа канони и стихири на многумина светители. Имаше дар на прозорливост заради што патријархот Фотиј го постави за духовник и исповедник на свештенството, а го препорача како: „Човек Божји, ангел во тело, отец на отците“. Во длабока старост Му го предаде својот дух на Бога, Кому тој верно Му послужи. Се упокои мирно во Господа на Велики Четврток 883 година.