Он сам освоил в кратчайшее время осетинский язык, читал на нем проповеди в храмах и убедительно настаивал на переводе богослужебных книг на осетинский язык. Огромных усилий и трудов потребовало от него создание известного осетинско-русского и русско-осетинского словаря, над которым владыка Иосиф трудился 23 года. Архипастырь мечтал о том времени, когда отцы с удовольствием будут слушать, как их дети будут читать на своём родном языке и, быть может, сами сядут за букварь. Он также перевел и отпечатал за свой счет краткую параллельную грамматику русского и осетинского языков, Священную историю Ветхого и Нового Заветов и Русско-осетинский словарь. Помогали ему осетинские священники А. Аладжиков, А. Колиев, М. Сухиев, К. Токаев. При его уходе во Владикавказской епархии числилось 136 церквей, из которых каменных было 43, деревянных – 93, строящихся – 3.