С образованием ГПУ было решено, что общеуголовные дела, в том числе дела по спекуляции, должностным и иным преступления подлежат рассмотрению исключительно в судебном порядке, как дела по преступлениям, направленным против советского строя, т.е. о контрреволюции, а также о нарушении законов. Поэтому становится ясным отказ высших органов власти от предложения руководства ГПУ о ликвидации двойного подчинения органов ГПУ, прежде всего местным органам власти. Они свои задачи должны были решать, безусловно, опираясь на структуры местных органов ГПУ. Местные советы руководили работой чекистов, хотя следует отметить, что это занимало все меньше места в их деятельности.
Вхождение ГПУ в состав НКВД (с 6 февраля 1922 г. по 2 ноября 1923 г.) дало некоторый опыт обеспечения безопасности государства и общества наркоматами внутренних дел союзных республик. Это было впервые в истории советской власти и привело в большей мере к негативным последствиям: ухудшению согласованности, большей затрате сил и средств, дублированию и параллелизму, созданию аналогичных звеньев в каждой республике и др. При внимательном рассмотрении положения органов ВЧК-ОГПУ можно со всей определенностью сказать, что они в 1920-е годы имели в себе элементы общесоюзных, республиканских и объединенных наркоматов, хотя наркоматами не являлись.
Принятые позже «Положение о губернских и областных отделах Госполитуправления», «Положение об уездных (кантонных, улу-ских) уполномоченных губернских и областях отделов Госполитуправления», «Положение об Особых Отделах Госполитуправления», «Положение о Транспортных Отделах Госполитуправления», подписанные Председателем ВЦИК М.И. Калининым, о Восточном
и других отделах и управлениях стали важнейшей правовой основой деятельности органов безопасности. Они определили права и обязанности каждой структуры ГПУ.
Постановлением СТО от 2 июня 1922 г. с войск ГПУ была снята охрана путей сообщения, сооружений НКПС, охрана и сопровождение грузов НКПС и НКВТ, охрана таможен и таможенных складов, учреждений НКПочтеля и Гохрана.
В годы нэпа все больше возрастает роль центра. Несмотря на то, что в ГПУ оставался принцип двойного подчинения его местных органов, все большее значение приобретает работа территориальных органов под непосредственным руководством центрального аппарата. А вхождение ГПУ в состав НКВД дало некоторый опыт обеспечения безопасности государства и общества наркоматом внутренних дел союзных республик. Со всей определенностью можно утверждать, что опыт 1922-23 гг. показал в большей мере негативные последствия этого в союзном государстве и подтвердил, что органы безопасности должны находиться на положении военного ведомства, что позволяет им в большей степени проводить в жизнь принцип единоначалия в чекистских коллективах и наиболее эффективно решать служебные задачи. В ходе судебной реформы 1922 г. были упразднены чрезвычайные судебные органы: революционные трибуналы и создана единая система общих судов РСФСР: народные, губернские и Верховные суды республик, которые действовали на основе демократических принципов судоустройства и судопроизводства, давали большую гарантию прав и свобод советским гражданам. Однако для рассмотрения дел особой категории, наряду с системой народных судов РСФСР, были временно оставлены специальные суды: военные трибуналы, военно-транспортные трибуналы, особые трудовые сессии народных судов, земельные комиссии, Центральная высшая и местные арбитражные комиссии.
При ограничении компетенции ведомства безопасности, широкие права сохранялись у его руководителей.
22 июня 1922 г. Дзержинский подписал удостоверение начальнику Секретно-оперативного управления ГПУ В.Р. Менжинскому, которому были даны полномочия в пределах РСФСР:
«1. Задерживать всюду без предъявления особого ордера под личную ответственность для доставления в местные отделы ГПУ любого гражданина, уличенного или заподозренного в контрреволюционном или ином преступлении.
2. При задержании кого-либо требовать полного содействия от всех представителей как военных, так и гражданских властей, а также от всякого гражданина.
3. Входить без всякого пропуска во все советские (правительственные) и общественные учреждения, во все помещения фабрично-заводских и торговых предприятий, учебных заведений и больниц, тюрем, лагерей, казарм и других мест общественного назначения.
4. Входить без особого разрешения во все помещения железнодорожных станций и вокзалов, а также пароходных пристаней.
5. Требовать во всех железнодорожных и пароходных билетных кассах у комендантов и начальников станций выдачи проездных билетов вне всякой очереди на все поезда, не исключая экстренных и военных.
6. Беспрепятственно передвигаться по всем городам РСФСР во всякое время дня и ночи».
В конце августа-сентября 1922 г. между ГПУ и НКЮ происходил обмен мнениями по различным вопросам.
28 августа 1922 г. Дзержинский поставил вопрос о сужении круга деятельности, уменьшении количества или ликвидации железнодорожных трибуналов, «передав дела о хищениях, взятках и т.п. в губернские трибуналы при участии ТО ГПУ». 21 сентября 1922 г. Дзержинский в записке Петерсу, Ягоде и Менжинскому он настаивал на более активном участии ГПУ в работе трибуналов и судов. - «Сейчас нет в ней ни плана, ни руководства. Мы ничего не знаем, что делается в судах, не имеем ни влияния, ни своей линии. Каждый наш представитель действует вразброд, нет кампании для устранения дефектов в судах и нет организованной информации ЦК с нашей стороны в этой области. Работа наших представителей разрознена и от случая к случаю. Сейчас у НКЮста идет разговор, чтобы наших представителей изгнать, трибуналы упразднить. Таким образом НКЮст, введя прокуратуру и производя реформы в суде, не подготовив кадры работников, создает фикцию правосудия, устраняя нас одновременно от этого дела. Прошу Вас взяться серьезно за это дело и составить план восстановления нашего влияния и информации ЦК». 24 сентября 1922 г. Менжинский доложил Дзержинскому свое мнение по этому вопросу и поручил подчиненным подготовить необходимый материал.