23 декабря на IX Всероссийском съезда Советов с обоснованием идеи преобразования органов ВЧК выступил В.И. Ленин. Дав положительную оценку ВЧК, он указал, что «та обстановка, которая у нас создалась, повелительно требует ограничить это учреждение сферой чисто политической, ...необходимо подвергнуть ВЧК реформе, определить ее функции и компетенцию и ограничить ее работу задачами политическими...».
28 декабря 1921 г. IX Всероссийский съезд Советов принял следующее постановление: «Съезд Советов отмечает героическую работу, выполненную органами Всероссийской чрезвычайной комиссии в самые острые моменты Гражданской войны, и громадные заслуги, оказанные ими делу укрепления и охраны завоеваний Октябрьской революции от внутренних и внешних покушений.
Съезд считает, что ныне укрепление Советской власти вовне и внутри позволяет сузить круг деятельности Всероссийской чрезвычайной комиссии и ее органов, возложив борьбу с нарушением законов советских республик на судебные органы.
Исходя из этого, съезд Советов поручает Президиуму Всероссийского Центрального Исполнительного Комитета в кратчайший срок пересмотреть положение о Всероссийской чрезвычайной комиссии и ее органах в направлении их реорганизации, суждения их компетенции и усиления начал революционной законности» .
На основании постановления IX Всероссийского съезда Советов от 28 декабря 1921 г. Президиум ВЦИК создал две комиссии: по разработке проекта о реорганизации ВЧК и ее местных органов, положения об органах безопасности и внесудебных приговорах.
В работе комиссии ВЦИК РСФСР прияли активное участие члены Коллегии ВЧК.
18 января 1922 г. Коллегия направила свой проект В.И. Ленину. Судя по проекту, руководство ВЧК выступило против передачи органов розыска и следствия в различные ведомства, считая преждевременным разделение подследственных дел о контрреволюции, должностных преступлениях и крупных хищениях. В то же время к В.И. Ленину поступил другой проект (Л.Б. Каменева и И.В. Сталина), в котором отстаивался «максимум»: разгрузить ЧК, оставив за ними политические преступления, шпионаж, бандитизм, охрану дорог и складов, остальное - передать НКЮсту; следственный аппарат ЧК влить в НКЮст, передав его ревтрибуналам.
23 января 1922 г. Политбюро ЦК РКП (б), заслушав вопрос «О ВЧК», поручило Д.И. Курскому и И.С. Уншлихту в недельный срок разработать проект положения от имени ВЦИК и внести его на утверждение Политбюро ЦК РКП(б). Директивы были следующими: при НКВД создается Государственное политическое управление, местные органы ГПУ в автономных республиках - при ЦИК, в губерниях - при губисполкомах, деятельность ГПУ сосредоточивается на сборе информации о контрреволюционных деяниях, сохраняется боевой «аппарат ВЧК с таким расчетом, чтобы при обострении гражданской войны он мог бы быть быстро и решительно развернут».
26 января 1922 г. И.С. Уншлихт писал В.И. Ленину: «На что нельзя согласиться в проекте Каменева. Не при НКВД должно быть наше
учреждение, а при Совнаркоме или ВЦИК. Иначе организационная путаница, невозможность создать централизованный аппарат и ту железную дисциплину, без которой дальнейшая наша работа невозможна... В проекте т.Каменева необходимо добавить, что нам поручается борьба с антисоветскими партиями и контрреволюционными заговорами, а на железных дорогах и с хищениями».
«В.И. Ленин, - отмечал впоследствии И.С. Уншлихт, - не соглашается с моими доводами и посылает мне ответ, в котором говорил, что мои предложения можно и должно осуществить не моим путем, а через проект комиссии ЦК...». Он рекомендовал И.С. Уншлихту поговорить еще со Сталиным и при необходимости показать Сталину его письмо.
Декрет ВЦИК РСФСР от 6 февраля упразднил ВЧК и возложил на НКВД наряду с другими задачами следующие:
«а) подавление открытых контрреволюционных выступлений, в том числе бандитизма;
б) принятие мер охраны и борьбы со шпионажем;
в) охрана железнодорожных и водных путей сообщения;
г) политическая охрана границ РСФСР;
д) борьба с контрабандой и переходом границ республики без соответствующих разрешений;
е) выполнение специальных поручений Президиума Всероссийского Центрального Исполнительного Комитета или Совета Народных Комиссаров по охране революционного порядка».
В составе НКВД было создано Государственное Политическое управление под председательством народного комиссара внутренних дел, а на местах - политические отделы при ЦИК в автономных республиках и областях и при губернских исполкомах - в губерниях. Для территориальных чекистских органов был сохранен принцип двойного подчинения, а особые и транспортные отделы, находясь в составе ГПУ, должны были вести борьбу с преступлениями в армии и на железных дорогах на основании особых положений, утвержденных Президиумом ВЦИК. Внесудебные репрессии отменялись.
ГПУ и его органам были даны права производства обысков, выемок и арестов.
Следовательно, ГПУ были определены более узкие задачи, и оно вошло в состав НКВД и обеспечение безопасности в стране стало его важнейшей задачей. Если раньше республиканские ЧК состояли при СНК республик на основании договоров и в оперативном отношении подчинялись ВЧК, то в результате реформы ГПУ они были включены в состав наркоматов внутренних дел, деятельность которых не подлежала координации в масштабе федерации, так как они относились к категории необъединенных наркоматов. Из прошлых задач органов безопасности сохранились: подавление контрреволюционных выступлений, в том числе и бандитизма, борьба со спекуляцией и шпионажем. Охрана границы была сужена до политической охраны, борьбы с контрабандой и переходом границы без соответствующего разрешения. Органы государственной безопасности были освобождены от борьбы со спекуляцией, саботажем и преступлениями по должности.