Второе отделение Собственной Его Императорского Величества канцелярии было образовано 4 (16) апреля 1826 года взамен Комиссии составления законов (1796—1826), состоявшей при Государственном совете. Главной задачей отделения было составление Свода законов Российской империи.
По своему значению отделения императорской канцелярии приравнивались к министерствам. Кодификационные работы во II отделении были вверены редакторам; они же (или другие специалисты по назначению управляющего) составляли отзывы на поступавшие законопроекты. При отделении имелась типография и специальная юридическая библиотека, в основание которой положено собрание книг бывшей Комиссии составления законов.
В 1882 году с целью сближения издания «Свода законов» с деятельностью Государственного совета император Александр III распорядился преобразовать Второе отделение в Кодификационный отдел при Государственном совете.
В отличие от Комиссии составления законов, задачей Второго отделения было не сочинение новых законов, а приведение в порядок действующих. Задача кодификации со времён Соборного уложения 1649 года поднималась много раз, однако впервые к её решению подошли системно. Новый император Николай I поставил перед Вторым отделением сложнейшую задачу — кодифицировать весь накопившийся с 1649 года законодательный материал.
На создание специальной типографии было потрачено 1 млн золотых, сотрудников было от 30 до 50 человек, что тоже стоило немалых денег. Формально управляющим II отделением был назначен бывший ректор Петербургского университета М. А. Балугьянский, но реально всеми делами руководил «главноуправляющий» Михаил Михайлович Сперанский, благодаря энергии которого в течение трёх лет были собраны все законы, накопившиеся за предшествующие 180 лет и разбросанные по разным местам и учреждениям. Итогом этой деятельности стало Полное собрание законов Российской империи.
Вслед за тем Второе отделение приступило к созданию следующего уложения, в котором отобрало всё действующее законодательство и изложило его уже не в хронологическом, а в предметно-историческом порядке. Результатом этой деятельности стал Свод законов Российской империи.