Кризис настиг писателя в зените творческой зрелости. Еще до выхода «Конармии» отдельной книгой началась работа Бабеля над сценариями: «Беня Крик», «Блуждающие звезды» (оба — 1925). Умение видеть мир как зрелище казалось Бабелю дорогой к новым работам. Но писатель счел сценарии неудачными. Тогда же он пишет пьесу «Закат», которую критика оценила отрицательно, увидев в ней только тему разрушения старых патриархально-семейных отношений; ее смущали «трагический надрыв», недостаточная комедийность пьесы. Писатель Бабель искал новые формы жизни, ему был нужен новый опыт: начиная с 1925, он много ездил по стране (Ленинград, Киев, Воронежская губерния, юг России), работал секретарем сельсовета в деревне Молоденово на Москва-реке. В 1925 Бабель пережил короткий, но бурный роман с актрисой Т. В. Кашириной. В 1926 у нее родился от Бабеля сын Михаил, который впоследствии был усыновлен ее мужем писателем Всеволодом Ивановым.
Бабель намеревался писать на актуальные темы (собрал материалы для книги о Гражданской войне). С 1927, когда писатель выехал за рубеж проведать первую семью (Бабель, как будто предвидя перспективы жизни в СССР, сумел отправить сначала мать и сестру в Швейцарию, затем помог первой жене эмигрировать во Францию) он почти ежегодно бывал за границей (1927, 1928, 1932, 1933, 1935, 1936). В 1934 выступил (весьма ярко) на I съезде писателей и вступил в Союз. В 1935 в Париже на конгрессе писателей в защиту культуры он выступил с докладом. Его выступление, сдобренное юмором, на безукоризненном французском языке было встречено овацией. Необходимо сказать, что первоначально Бабель не был включен в состав советской делегации и только благодаря настоятельной просьбе французских писателей Бабель появился на конгрессе, когда он уже начался.
Сохранившаяся переписка с издателями (Вяч. Полонский) выдает его отчаяние. Он мечется: участвует в создании коллективного романа «Большие пожары» (1927), публикует в альманахе «Перевал» (№6) свои старые рассказы. Внутренние причины кризиса он связывал не только со своим максимализмом, но и с «ограниченными возможностями выполнения», как осторожно писал он в частном письме из Парижа в июле 1928.
Но в литературных кругах уже рождалась легенда о «прославленном молчальнике», хранящем свои рукописи в наглухо запертых сундуках. Писатель и сам время от времени говорил о своей немоте, о стремлении преодолеть «цветистость» стиля, о попытках писать по-новому и о мучительности этих усилий. Суетливая критика подстегивала писателя, заверяя, что, как только он окончательно отречется от себя прежнего, перестанет тратить годы на «завоевание армии слов», преодолеет свои «детские ошибки» и прильнет к «новой действительности», все пойдет на лад. Бабель старался, хотя не раз сетовал на невозможность «заразиться литературной горячкой». В 1929-1930 он близко видел коллективизацию. Тогда же, в 1930 написал о ней рассказ «Колывушка», дав ему подзаголовок: из книги «Великая Старица» (опубликован только в 1956 в благотворительном номере журнала «Простор»). Бабель опять столкнул лбами высокое и низкое, силу могучего духовного здоровья и агрессивность уродства, изначальную справедливость трудолюбивого человека и ненасытную тягу темной силы к самоутверждению. Как прежде, он дошел до изначальных истоков жизни, и их истребление изобразил как трагедию коллективизации.
Большой травмой для писателя была отвергнутая совместная с С. М. Эйзенштейном работа над фильмом «Бежин луг» (запрещен и уничтожен). Тем не менее в 1930-е им были созданы рассказы «Пробуждение», «Ги де Мопассан». Последний сборник рассказов вышел в 1936. Последнее выступление в печати — одно из новогодних пожеланий, опубликованных под рубрикой «Литературные мечтания» в «Литературной газете» 31 декабря 1938.
Бабель прекрасно осознавал, что его разногласия с эпохой — отнюдь не стилистического порядка. В письмах к родным он жаловался на страх, который вызывает у редактора чрезмерная злободневность его рассказов. Однако его художественный потенциал был неисчерпаем. Едва ли не в самые трагические для страны дни — в 1937 — Бабель создает еще одну великую притчу — «Ди Грассо». Он опять изобразил смещенный страстью мир. Только теперь эта страсть — искусство.