Учился в 3-й Санкт-Петербургской гимназии; окончил её с золотой медалью в 1857 году После окончания историко-филологического факультета Санкт-Петербургского университета, Краевский был командирован за границу для изучения школьного дела и для разработки некоторых педагогических вопросов, бывших актуальными в то время. После возвращения вышел в отставку и работал в основанной его отцом газете «Голос», где вёл отдел иностранных известий и иногда писал воскресные фельетоны.
Жена — Ольга Степановна Краевская, с 1892 года занимала должность начальницы Екатерининского училища в Москве. По отзыву современницы, была «чудесным человеком, прекрасным педагогом, очень умной, передовой женщиной, любящей своё дело и своих воспитанниц»[1].