В примечании к положению о прокуратуре подчеркивалось, что «органы Госполитуправления, признавая то или иное дело имеющим особо секретный характер, вправе требовать, чтобы ознакомление с делом производилось непосредственно самим прокурором».
С 16 октября 1922 г. общий контроль по наблюдению за органами ГПУ был возложен на губернских, военных и военно-транспортных прокуроров по принадлежности, а для непосредственного контроля назначен один из помощников прокурора со стажем работы не менее трех лет.
27 сентября 1922 г. Дзержинский предложил Кацнельсону или его заместителю дважды в неделю делать доклад в НКЮ Курскому о всех делах, проходящих через Экономическое управление ГПУ. -«Это необходимо во избежание всяких недоразумений на почве компетенции и т. д. Эти недоразумения могут сорвать всю нашу работу. Путем докладов Крыленко мы его вовлечем в нашу работу. Договоритесь с ним».
В своем ответе Дзержинскому Курский согласился с его предложением, отметив, что существует «крайняя необходимость установить полный контакт между ревизионной деятельностью Рабкрина и деятельностью Экономического Управления ГПУ, которые в настоящее время друг другу только мешают».
Ввиду того, что следует назначить специального Помощника Прокурора Республики вместо К. Ландера, «которого ЦК не дает», Курский предложил: назначить специальным Помощником Прокурора Республики при органах ГПУ Розмирович, подчинив ей «в качестве рабочего аппарата юридический отдел Президиума ГПУ вместе с Фельдманом Рабкрина с освобождением от всех других обязанностей Рабкрина, что дает возможность сосредоточить в одном кулаке наблюдение за производством всех дел по экономическим преступлениям как в ГПУ, так и в Рабкрине и в Судах»; сохранить за ней одновременно руководство юридическим отделом. «На иных условиях ее Рабкрин не отдаст. Она же лучше других сможет поставить эту работу.
В случае согласия, прошу написать на обороте и возвратить, т.к. вопрос должен быть разрешен ЦК в самом срочном порядке».
Однако Дзержинский не одобрил этого предложения.
Вообще-то несогласованность в работе и конфликтные ситуации были постоянными во взаимоотношениях органов безопасности, НКЮ и прокуратуры. В этом большая часть вины ложилась на Дзержинского, который был против введения еще одного контролирующего органа, а иногда воспринимал это как недоверие. Это особенно ярко проявилось при обсуждении установления порядка контроля со стороны НКЮ. Дзержинский в письме на имя Крыленко в 1923 г. прямо указал, что «отдача ВЧК под надзор НКЮста - роняет наш престиж - умаляет наш авторитет в борьбе с преступлениями, подтверждает все белогвардейские россказни о наших «безобразиях»... Быть под надзором одного лица, иметь комиссара Коллегия ЧК не заслужила, так как состоит из членов партии, испытанных в боях, со стажем более, чем завгубюстами. ЧК находится под надзором партии.
Введение комиссара губюста означает факт(ическую) перемену курса против ЧК, так как губюсты -это органы формальной справ-деливости, а ЧК органы дисциплинированной партийной боевой дружины... Если ЧК потеряла у партии доверие, а губюсты приобрели, то надо распустить ЧК и их борьбу передать губюстам».
После образования СССР была создана прокуратура Верховного Суда СССР. Конституция возложила на Верховный Суд и прокуратуру Верховного Суда СССР задачу «утверждения революционной законности на территории СССР». В главе 9-й Конституции «Об Объединенном Государственном Политическом управлении» говорилось, что «надзор за действиями ОГПУ Союза ССР осуществляется прокурором Верховного Суда СССР» на основании специального постановления ЦИК Союза ССР. Согласно ст.63 Конституции СССР и статей 10 и 12 Положения об ОГПУ, прокуратура, в частности, наблюдала за производимым дознанием, следствием, рассмотрением дел в административном порядке, за местами лишения свободы, находившимися в ведении ОГПУ. Ст. 19 установила при прокуратуре Верховного Суда СССР наличие двух помощников: одного - для наблюдения за ОГПУ, другого -для наблюдения за военной прокуратурой. Согласно статье 61 Конституции СССР, ОГПУ являлся органом, объединявшим все ГПУ союзных республик, но в Закавказье существовала Закавказская ЧК.
Отношения с органами прокуратуры у чекистов не были безоблачными еще и потому, что прокуроры часто указывали на пре-, вышение ими своих прав и на отступления от буквы закона. Это вызывало недовольство, в т. ч. и Председателя ОГПУ. 9 марта 1924 г. он писал Фельдману: «Сейчас проходит съезд работников юстиции. Прошу Вас следить за работами его и потом передать мне лично важнейшее. Кроме того, прошу собрать материал для меня, как НКЮст в своих циркулярах и разъяснениях понимает и разъясняет классовый принцип юстиции и приговоров, поскольку этот принцип относится к определению самого преступления и поскольку он является привилегией самого преступника или происходящего из правящего класса, т.е. пролетариата или вообще из «бедняков».
Сложными отношения Председателя ОГПУ с НКЮ остались и в последующие годы. Незадолго до кончины, вечером 4 февраля 1926 г. Дзержинский просит В. Р. Менжинского «составить записку в П/бюро о практике и теории НКЮст, которые ничего общего с государством диктатуры пролетариата не имеют, а составляют либеральную жвачку буржуазного лицемерия» и «сделать выписки из премудростей Крыленко и других». «И до тех пор, - продолжает он,- пока НКЮст будет тем, чем он есть, наше государство не сможет быть в безопасности без прав ОГПУ, за которые как ведомство вовсе не держимся. Во главе прокуратуры должны быть борцы за победу революции, а не люди статей и параграфов, для которых безразлично, контрреволюция или простой мордобой, или нарушение уличного порядка.