Должность генерал-прокурора была введена царем Петром І еще в 1722 году. Тогда прокурором стал Павел Ягужинский, великий граф. Прокурор должен был следить за деятельностью государственных институций, и на этом его роль заканчивалась. Правда, постепенно он начал занимать все более и более высокое положение в системе государственного управления. В общем, с 1722 по 1917 год эту должность занимало более 30 человек.
В 1917 году институт прокурорского надзора был упразднен специальным указом. Прогрессивные силы большевизма все-таки через время решили строить новую систему юриспруденции.
1922 году была основана Петроградская прокуратура. Она осуществляла контроль в пяти губерниях: Мурманской, Петроградской, Новгородской, Череповецкой, Псковской. Сюда входило 30 уездов и более 300 волостей. После реорганизации губерний было основано 9 округов.
Первым прокурором советского союза стал выходец из крестьянской семьи Антон Розенберг. Ему пришлось работать в условиях сложной оперативной обстановке и при нехватке сотрудников. Фактически, следственную деятельность вели на общественных началах.
Самостоятельный статус прокуратура Ленинграда получила незадолго до Великой Отечественной войны.