Середина 30-х годов была временем реорганизации Советских Вооруженных Сил. В 1935—1938 годах стал возможным переход к кадровой системе комплектования дивизий, и уже к началу 1936 года территориальные дивизии не составляли и четверти всех дивизий Красной Армии. Одновременно происходило перевооружение советских войск. За годы двух предвоенных пятилеток огромные изменения произошли как в пехоте, так и в артиллерии Красной Армии, заново были созданы бронетанковые и военно-воздушные силы. Серьезные перемены претерпела и конница, все еще составлявшая существенную часть сухопутных войск Красной Армии. С 1934 по 1939 год в кавалерийских дивизиях более чем на 40 процентов возросло количество артиллерии, на 30 процентов — ручных пулеметов, на 21 процент — станковых. У кавалеристов появилась зенитная артиллерия, почти на треть увеличилось число танков в механизированных полках дивизий, а сами эти полки стали теперь обязательной составной частью кавалерийских дивизий.

Освоение огромного количества самой разнообразной техники, обучение вновь прибывающих контингентов военнослужащих требовали всего времени командира корпуса. Поэтому жизнь Рокоссовского в эти годы проходила в постоянных разъездах. Вот только несколько недель из повседневных будней командира 5-го кавалерийского корпуса, проследить за которыми дают нам возможность архивные документы.

4 января 1937 года он провел в 16-м конно-артиллерийском полку и обнаружил ряд недостатков в боевой подготовке артиллеристов.

С 6 по 9 января Рокоссовский вместе со своим помощником по политчасти дивизионным комиссаром И. С. Балашовым и начальником 3-го отдела штаба корпуса майором Г. М. Брагиным находился у самой границы и инспектировал части 30-й кавдивизии.

12 января командир корпуса убыл в Москву. Там с 15 по 21 января состоялся XVII Чрезвычайный Всероссийский съезд Советов, рассматривавший проект новой Конституции РСФСР, и Рокоссовский в качестве одного из делегатов присутствовал на съезде, слушал речь Михаила Ивановича Калинина о проекте Конституции, закреплявшей достижения советского народа.

23 января Рокоссовский возвратился из Москвы и несколько дней потратил на инспектирование частей псковского гарнизона.

30 января вместе с начальником штаба корпуса Журавлевым он отправился в Ленинград, в штаб ЛВО, и возвратился оттуда только 10 февраля. Но уже через день, 12 февраля, Рокоссовский уехал для инспектирования частей 16-й кавдивизии.

15 февраля он возвратился в Псков и в тот же день отправился на границу. Вернувшись оттуда 17 февраля, Рокоссовский уже 23 февраля был вновь на границе.

24 февраля он опять в Пскове, а на следующий день уезжает на полевые учения по поверке штаба 25-й кавдивизии...

Всего 50 дней, но какое разнообразие являют собой эти мирные будни военного начальника! Сколько поездок! И в каждой из них встречи с сотнями людей, десятки часов напряженного труда! Так из месяца в месяц, без устали и перерыва... К сожалению, в августе 1937 года плодотворная деятельность Рокоссовского была прервана: став жертвой клеветы, он был арестован. Решительно, с негодованием отверг Рокоссовский предъявленные ему нелепые обвинения в связях с польской и японской разведками. Это были очень трудные для него дни, недели, месяцы, годы. Однако справедливость была восстановлена, твердость возымела действие: в марте 1940 года «дело» Рокоссовского была прекращено, его полностью восстановили в правах.

Весной 1940 года семья Рокоссовских отдыхала на юге, а по возвращении с курорта Рокоссовский был принят народным комиссаром обороны маршалом С. К. Тимошенко, с которым они были знакомы еще с начала 30-х годов. Тогда Тимошенко командовал 3-м кавалерийским корпусом, в состав которого входила 7-я Самарская кавдивизия.

Нарком принял Рокоссовского тепло, по-товарищески и предложил ему вступить в командование тем же 5-м кавалерийским корпусом. Но так как корпус в тот момент находился в пути (его перебрасывали на Украину), Тимошенко направил генерал-майора Рокоссовского [8] в распоряжение командующего Киевским военным округом — генерала армии Жукова.

В Киеве Рокоссовский был включен командующим округом в группу командиров, инспектировавших войска округа перед освободительным походом в Бессарабию. Еще в 1918 году боярская Румыния, воспользовавшись слабостью Советской республики, захватила Бессарабию. Советское правительство никогда не признавало юрисдикции румынских властей над этой исконной территорией России. Летом 1940 года пришло время для окончательного решения этого вопроса. 26 июня 1940 года в адрес румынского правительства была направлена нота, в которой сообщалось, что «Советский Союз считает необходимым и своевременным в интересах восстановления справедливости приступить совместно с Румынией к немедленному решению вопроса о возвращении Бессарабии Советскому Союзу».

Так как не исключена была возможность сопротивления войск Румынии вступлению советских частей на территорию Бессарабии, в Киевском военном округе готовились соответствующие мероприятия. Однако до военных действий дело не дошло: румынское правительство приняло советские предложения, и в 2 часа дня 28 июня 1940 года встречаемые цветами советские войска вступили на территорию Бессарабии. Освободительный поход Красной Армии превратился в большой праздник для народа Бессарабии. Вместе с тем во время похода обнаружились существенные недостатки в организации движения и управления войсками, и с этой точки зрения он был очень поучительным для Рокоссовского.