По традиции казачьего рода Иловайских, 15 марта 1790 года, будучи в возрасте 15 лет, Осип Васильевич поступил на службу рядовым казаком в полк Николая Васильевича Иловайского 5-го. С января 1791 года, в составе полка находился за Дунаем, где принимал участие в боевых операциях русско-турецкой войны 1787-1791 годов.