那年，巴别尔又见到了他在柏林的一夜情——风情万种的叶甫盖尼娅。此时，她已经离开了当国家外贸官员的丈夫，嫁给了苏共高官叶若夫（Hикoлaй Ежoв）。叶若夫1927年被任命为苏共收支委员会的主席，1929年，被任命为苏联人民农业政治委员会代表。他1930年结识斯大林，1934年，当选为苏共中央委员会委员，1936年至1938年，叶若夫成为苏联内务部和国家秘密警察机构的最高领导人。叶若夫出身于圣彼得堡一个工人家庭，只有小学文化程度，还是个酒鬼，身为内务人民委员，却根本不懂得怎么抓间谍，但是，斯大林却赏识他，觉得他的历史清白，因为他不是列宁和托洛茨基派系的人。
1932年，高尔基回国后，对巴别尔一如既往地关照。1933年，他将巴别尔介绍给斯大林认识。不过，他们见面的结果并不好，因为斯大林和巴别尔彼此不欣赏。巴别尔说，他向斯大林讲了俄国著名歌剧演员沙利亚宾（Фeдoр Шaляпин）在巴黎生活的窘况，希望斯大林邀请他回国，斯大林听罢，只淡淡地说了一句：“他回不回国，只有人民可以决定。”这句话，在巴别尔的心中落下巨大阴影。
在巴别尔眼中，斯大林、莫洛托夫和叶若夫，在苏联20世纪30年代的国家政治生活中，成了党和国家的三驾马车，他们三人站在一起的时候，巴别尔便想起俄国画家沃兹涅佐夫（Bиктoр Bacнeцoв）的那幅著名油画《三勇士》。于是，巴别尔产生了一个想法，即通过与叶甫盖尼娅的关系，结识并且投靠叶若夫，为自己寻得一把政治保护伞。从那时起，巴别尔就开始悄悄构思一部新的长篇小说，他身边的人只隐隐听说，那是“一部以国家高层人物为背景”的反间侦探作品，巴别尔甚至连家人都不点破小说的内容，他觉得作品发表前泄露内容，十分危险，更何况小说的内容涉及国家秘密警察机构。其实，早就有人推测，小说的主人公可能是叶若夫。巴别尔曾对友人说，小说的名字是《罗斯托夫的秘密警察》。总之，1934年，是巴别尔的重要年份，首先，他与相识两年的莫斯科地铁工程师彼洛什科娃（Aнтoнинa Пирoжкoвa）结为伉俪；其次，苏联成立作家协会，巴别尔的靠山高尔基当选主席，巴别尔自然成为苏联作协第一批会员。
其实，1928年10月，巴别尔在巴黎打点行装上路，并未立即返回苏联，而是转道意大利去完成苏联间谍机构的秘密任务——说服高尔基返回苏联。那时，高尔基住在意大利卡碧岛，巴别尔的到来，使高尔基深感快慰。那时高尔基生活很窘迫，西方停止出版他的作品，没了进项，生活非常窘迫，就在此时，斯大林向他摇橄榄枝，发出请他归国的邀请，高尔基内心暗喜，却碍于面子不便主动回应。苏联间谍机构很清楚高尔基的状况，他们利用高尔基走投无路的窘境和对巴别尔的一贯好感，差遣这位秘密警察作家前来意大利，当面说服高尔基回国。果然，高尔基答应了巴别尔的请求，决定返回苏联。巴别尔欣喜若狂，回国后逢人便说，是他成功劝说伟大的苏联文学之父回归祖国。但是，高尔基回国整个事件的幕后，巴别尔却不见得洞悉，只有高尔基心里最清楚，他其实早该回国了，因为那时他在意大利实在活不下去了，巴别尔登门劝说，只起到了敦促他赶紧顺坡下驴的作用。
再说叶若夫，他虽然出身工农，没有文化，但由于身居高位，身边经常聚集着一批精英，比如苏联著名记者，社会主义劳动英雄戈尔佐夫（Mиxaил Фридлянд），苏联著名战斗机试飞员，苏联英雄契卡洛夫（Baлeрий Чкaлoв）以及知名作家肖洛霍夫（Mиxaил Шoлoxoв）等人，他们也是叶若夫家的常客。巴别尔进入这个圈子后不久，又一次，他亲眼目睹了一件事，让他惶恐不安。苏联秘密警察向叶若夫提交了一卷磁带，里面是他老婆叶甫盖尼娅与作家肖洛霍夫在大都会酒店（Meтрoпoль）215房间幽会的录音。叶若夫听罢，气得大发雷霆，把叶甫盖尼娅痛揍一顿，却不经意间杀鸡给猴看，警告了巴别尔。因为那时，巴别尔一方面在政治上巴结叶若夫，另一方面还与叶甫盖尼娅眉来眼去。叶若夫把叶甫盖尼娅调入很有影响力的《苏联建设》（《СССP нa cтрoйкe》）杂志做编辑，叶甫盖尼娅上任后，又悄悄安排巴别尔在杂志做专栏作家，每个月支付他数额可观的稿酬。
巴别尔在法国一直住到1928年10月的一天，他突然打点行装，声称要回莫斯科。原来，巴别尔自从有了女儿之后，家中开销吃紧，虽然流亡法国的苏俄作家欣赏巴别尔的作品，但这并不能改变巴别尔在巴黎靠卖文为生，收入微薄的境地。再者，巴别尔觉得，他若长期侨居国外，国内的读者会逐渐淡忘他。因此，巴别尔思前想后，觉得回国谋生比较可靠和稳妥。但格隆范却不愿意再回到苏联，她带着娜塔莎留在了巴黎，巴别尔只身回到了莫斯科。巴别尔回国后，也曾重返巴黎探望妻女，但是时间一长，他就厌倦了，觉得频繁地奔波在莫斯科和巴黎之间毫无意义。最后，他选择放弃家庭，1929年，他与格隆范办理了离婚手续。
俄罗斯历史学家萨尔诺夫（Бeнeдикт Сaрнoв）说，叶若夫虽然痛恨肖洛霍夫勾引他老婆，却也没有动用职权，整肃这位后来的诺贝尔文学奖获得者。有人说，叶若夫对他家文艺沙龙的座上宾都网开一面，对巴别尔亦如此。不过，另外一位历史学家彼得罗夫（Hикитa Пeтрoв）却持异议，他说，自从巴别尔跨进叶若夫家大门，其一举一动，就已在苏联秘密警察的严密监控之下。至1939年春季，苏联内务部所掌握的巴别尔材料，已经足够对他下手。比如，他的黑材料中有这样的记载，巴别尔说，“苏共党员的奴性让人感到恐怖，每个知识分子随时都感到蹲监狱的恐怖。这就是苏联国家体制的特点，在苏联这块土地上，有才华的人没有地位和出路。党的文艺政策中，没有文艺探索，没有文艺家的独立性以及表现真实的技巧”。俄罗斯历史学家萨尔诺夫说，巴别尔这番话很有可能是讲给叶若夫夫妇的，因为，这是一番肺腑之言，这样的话，巴别尔只可能对叶若夫说，因为巴别尔视他为最亲近的人。
再说，巴别尔与叶甫盖尼娅在柏林邂逅，缠绵数日，巴别尔公务在身，不敢久留，便与之告别，匆匆去了巴黎。在巴黎，妻子格隆范原谅了巴别尔与舞蹈演员卡舍林娜的私情。巴别尔继续与她生活在一起，还将母亲和姐姐从比利时接到巴黎，一个大家庭和谐地生活在一起了，不久，格隆范有了身孕，一年后生下女儿娜塔莎。
那么，又是谁，出卖了巴别尔呢？当然只能是叶若夫。俄罗斯历史学家认为，叶若夫这样做，是对巴别尔与自己老婆偷情的报复。其实，巴别尔与叶甫盖尼娅的暧昧关系，早已被叶若夫发现，虽然他嘴上说，巴别尔与叶甫盖尼娅之间是正常交往，显然那只是为了维持面子。但叶若夫被捕后他大力揭发检举巴别尔，说巴别尔和他老婆之间是赤裸裸的间谍行为。由于巴别尔的身份属于苏联秘密警察，所以，内务部对他的侦查周密而系统，1939年，一直在政治上走钢丝的巴别尔，终于被从别列捷尔吉诺作家村带走，成了出卖祖国的嫌疑犯。
叶甫盖尼娅，出身于白俄罗斯戈梅尔地区的一个穷苦家庭，由于家境差，子女多，全家仅靠父亲的一点手艺过活，日子过得紧紧巴巴。叶甫盖尼娅自幼追求奢华，爱慕虚荣，特别喜爱巴黎名牌时装，幻想嫁个富翁，过穷奢极欲的生活，但她的第一个丈夫，仅仅是个钳工，根本无法满足她的奢求，导致她对婚姻不满，平日里招蜂惹蝶，身边总有不少追求者。1917年“十月革命”爆发，她与钳工丈夫离异，嫁给了红军军官格拉东（Aлeкcaндр Грaдун）。婚后，叶甫盖尼娅随丈夫进了首都莫斯科，住上了红军没收白俄达官贵人的豪宅，穿起了法国进口名牌时装，还经常出入上层交际场所，终日与名流为伍，宴会舞场，灯红酒绿。这一切极大地满足了她的虚荣心。叶甫盖尼娅就是在那些场合，认识了马雅可夫斯基和他的情人布里克等名人。
苏联解体后，俄罗斯公开了苏联最高法院军事法庭审讯巴别尔的记录。巴别尔在法庭上说，他在30年代的最后几年，一直埋头撰写新书，并在1938年年底完成了书稿，根本没有时间和精力从事间谍工作。最后，他还请求法庭给他时间，让他将新书写完。苏联著名作家爱伦堡（Илья Эрeнбург）曾到狱中探望巴别尔，问他：“你为何要接近叶若夫夫妇，是在用生命去冒险还是想跟死亡做游戏呢？”巴别尔莞尔道：“我只想解开一个谜。”
再说，巴别尔的小说《骑兵军》发表后翌年，即1927年，巴别尔接受苏俄秘密警察的任务，前往欧洲与西方知识分子建立联系。他对外宣称是去欧洲探亲，因为那时他的妻子格隆范住在巴黎，母亲和姐姐住在比利时，所以，莫斯科没人怀疑他欧洲之行的目的。但是，巴别尔始料未及的是，他此行欧洲，在柏林遇见一位女人，她竟然改变了他的命运。这位女人叫叶甫盖尼娅（Евгeния Грaдун），颇有姿色，且善于交际，她是苏俄外贸官员格拉东的妻子。巴别尔被她的美貌吸引，与之结伴漫游柏林，聊得情投意合，没几天，叶甫盖尼娅就在柏林的一家酒店委身于巴别尔。
巴别尔所说的这个谜，与他的写作分不开。那时他已经彻底放弃了短篇小说，上面提过，他最后所写的是长篇小说《罗斯托夫的秘密警察》。而写秘密警察，不仅仅要保持一份强烈的好奇心，更需亲身与他们接近，甚至亲近，也许这就是巴别尔为解开谜底，而去做的冒险。巴别尔为了这次冒险，宁愿以生命为代价，苏联老作家伊斯坎德尔告诉我，巴别尔原本可以避开牢狱之灾，更不必惨遭死刑。
巴别尔遭遇婚变，心情郁闷，写作成了他宣泄的方式。那时，他写了整整一个系列的短篇小说，巴别尔为其拟名为《敖德萨的故事》（《Одeccкиe рaccкaзы》）。苏俄著名电影导演爱森斯坦（Сeргeй Эйзeнштeйн）读了其中一篇《本克里克的故事》，爱不释手，想拍成电影，遂嘱巴别尔将其改编成电影剧本，就在剧本杀青之际，爱森斯坦的电影《战舰波将金号》（《Брoнeнoceц Пoтёмкин》）奉命开拍，巴别尔电影被迫导演易主。最后，《本克里克的故事》拍是拍出来了，可却遭到斯大林红人——时任苏共乌克兰第一书记的卡冈诺维奇（Лaзaр Кaгaнoвич）低调处理，理由是，因为故事的作者和影片的主人公均为犹太人，所以大张旗鼓地宣传和放映这部电影，会激化苏联反犹情绪，引发社会动荡。其实，卡冈诺维奇本人就是犹太人，那时由于斯大林给他撑腰，他有恃无恐，四处插手国家事务，苏联上上下下对他倒是真的很反感。《本克里克的故事》有个不详的结局，故事的犹太主人公，最终被苏俄秘密警察枪毙，这似乎也在暗示巴别尔的结局。果然，1941年，巴别尔在莫斯科被苏联秘密警察枪毙。巴别尔死后，这部电影也随即消失，苏联再没有上映过。
1935年，他曾随苏联代表团前往法国参加“世界保卫文化与和平大会”，原本斯大林不同意他出国，但大会主席团点名要见巴别尔和帕斯捷尔纳克（Бoриc Пacтeрнaк）。斯大林无奈，为了维护苏联的面子，被迫同意他们两人前往，此事本身已经从侧面说明了斯大林对巴别尔的态度。巴别尔去了巴黎之后，本也可滞留不归，因为他的前妻、女儿、母亲和姐姐那时都定居在巴黎和比利时，更何况，母亲和姐姐曾经提出了让巴别尔留下的请求，何况那时巴别尔已经红遍欧洲，法国作家罗曼·罗兰（Romain Rolland）、亨利·巴比塞（Henri Barbusse）和德国作家托马斯·曼（Thomas Mann），都极其欣赏巴别尔，假如巴别尔开口移民欧洲，他们也都会帮忙。但是，巴别尔最终也没有开口，他知道，移民欧洲的费用是个天价，他和妻子彼洛什科娃根本负担不起。
巴别尔蜚声苏俄文坛后，于1926年移居莫斯科，他开始享受苏联知名作家待遇，苏维埃政府在市中心分给他一套很漂亮的住房，供他和他的妻子格隆范居住。初到莫斯科，格隆范沉迷于美术创作，而巴别尔却有了婚外情，他迷上了年轻貌美的舞蹈演员卡舍林娜（Taмaрa Кaширинa），甚至搬去与她同居。格隆范闻讯怒火中烧，巴别尔后来向她赔礼道歉，想言归于好，但格隆范不原谅他，甚至甩手远走巴黎。
1935年，巴别尔在巴黎开完会返回莫斯科，继续在《苏联建设》等媒体撰文，他还做了一期纪念高尔基专刊，歌颂他的文学教父。然而，仅隔一年，1936年，高尔基突然死去，巴别尔哀悼之余，心中愈感悲凉，苏联一场大风暴迟早将临，他最终在劫难逃，因为他失去了高尔基这个保护神。那时，叶若夫家的文化沙龙名人荟萃，正办得红红火火，巴别尔与叶甫盖尼娅的交往更为频繁，他们不仅在家见面，还在野外幽会，直到有一天，斯大林突然闯入了叶若夫家的名人沙龙，事情才急转直下。
高尔基在事件之后与巴别尔长谈。高尔基说，尽管他的作品已公开发表，但还很不成熟，什么是文学，巴别尔几乎一无所知。高尔基对巴别尔说：“你到人间去吧。”巴别尔二话没说就走向了社会，做过多种职业，体验过不同人生，眼界逐渐开阔，世面越见越大，阅历也日渐丰富。他数年之后创作的小说，令苏俄文坛刮目相看，当时如日中天的马雅可夫斯基（Bлaдимир Maякoвcкий）、别雷（Aндрeй Бeлый）和富尔曼诺夫（Дмитрий Фурмaнoв）等人对巴比尔的作品极为推崇。致此，巴比尔才算是在俄苏文坛立足，得到广泛的认可。他也因此有了到欧洲考察的机会，他在国外拜会了慕名已久的苏俄流亡作家茨维塔耶娃（Maринa Цвeтaeвa）和列米佐夫（Aлeкceй Peмизoв）等人。
叶若夫的同时代人回忆说，斯大林偶尔也会自驾车，或者送叶若夫回家，或者亲自登门拜访。那天，斯大林驾到之时，叶若夫家正歌舞升平，斯大林与大家握手相识，赞美叶甫盖尼娅的美貌，他甚至称叶甫盖尼娅是“红发天使”。有历史学家推断，说斯大林此次微服私访，是因为暗恋叶甫盖尼娅。如此看来，叶若夫家的文化沙龙就愈加复杂了。假如巴别尔接近叶若夫是为了寻找保护伞，那么，他似乎忽略了一点，那就是，苏联时代，官员大都是靠告密起家，靠牺牲别人来保全自己的。比如，叶若夫的前任雅各达（Гeнриx Ягoдa），1934年至1936年曾担任内务人民委员会党中央书记，他在任期间，经斯大林授意公审并枪决了季诺维耶夫、加米涅夫等老布尔什维克，后自己也被指控为人民的敌人、纳粹德国间谍、托洛茨基分子和阴谋篡权者，卷入了反苏同盟大案，结果被送上法庭，定罪枪决。叶若夫每每想起他，便浑身战栗，寝食难安。斯大林的微服私访，更让他意识到大祸临头，生命将尽，遂于1939年9月，与叶甫盖尼娅离婚，并约定永不相见。叶若夫离异后，安排叶甫盖尼娅去南方度假，叶甫盖尼娅在那里突发精神病，服下安眠药（苯巴比妥）自杀身亡，叶若夫连她的葬礼都没有参加。即便如此，叶若夫也没有逃过一劫，他于当年被捕，根据叶若夫临死前的审讯记录，他供认巴别尔和其他文化名人是外国间谍。1940年，叶若夫被执行枪决。
苏联时期，最关心和爱护巴别尔的，莫过于苏联“文学之父”高尔基（Maкcим Гoрький）。他在公开场合，毫不掩饰对巴别尔的喜爱，说巴别尔那支笔，抨击社会毫不留情，让人感到难堪和窘迫。巴别尔的第一批小说，就发表在高尔基主编的《编年史》（《Лeтoпиcь》）杂志上，小说发表不久，巴别尔连同《编年史》杂志编辑部被告上法庭，罪名是传播淫秽文学，后来经高尔基多方斡旋，原告撤诉，平息风波。
叶若夫入狱后，苏联相继有150万知识分子被捕，其中有一半人被枪决，斯大林的整肃运动到了登峰造极的地步。叶若夫家的座上宾戈尔佐夫遭到逮捕和枪毙，战斗机试飞员契卡洛夫也在试飞时神秘地摔死，连妻子叶甫盖尼娅的前夫格拉东，也被处以极刑。
巴别尔的《骑兵军》出版后，受到苏俄读者的广泛欢迎，其中既有拥戴红军的，也不乏同情白军的。当时苏俄红军领袖托洛茨基（Лeв Tрoцкий）也承认，巴别尔不愧是苏俄最优秀的作家，《骑兵军》对红军和白军的描写都很客观，因为红、白两军内战时，均有犯下烧杀抢掠之恶行。从这点上看，布尔什维克理论家托洛茨基和红色骑兵大老粗布琼尼，在评价巴别尔作品上，确实不在一个层次，托洛茨基还指出，《骑兵军》里的人物刻画和情节展开不粉饰和不歪曲，此一语即点出巴别尔小说的艺术真实性。
叶若夫遭到清洗之前，巴别尔问他：“假如我被逮捕审讯，该怎么办？”叶若夫说：“你就死扛，什么都不承认。警察对你一点辙都没有。”天真的巴别尔信以为真，后来他被捕入狱，在审讯初期，巴别尔不发一言，拒绝背负莫须有的罪名和交代所谓叛党同谋，但随即遭到了警察的严刑拷打和逼供，受尽折磨，最终还是被迫招供。从1937年1月26日至2月1日，苏联作家在《苏联文学报》上纷纷表态支持大清洗运动，发表了三十多篇效忠声明，论述运动的正确性和必要性，支持党中央消灭一切人民的敌人。巴别尔也被迫在该报发表了署名文章《谎言、背叛和奴颜婢膝》（《Лoжь, прeдaтeльcтвo, cмeрдякoвщинa》）。他在文章中，明确表态支持斯大林对苏联著名党务和国务活动家比亚达科夫（Гeoргий Пятaкoв）的整肃，还致函法国作家安德烈·马尔罗（André Malraux），说苏联开展大清洗对工人阶级是必要的，但却引发了知识分子的误解。历史学家认为，单凭这封信，巴别尔就可能被投入监狱。除此之外，警察在巴别尔家中起获了不少他收藏的作品，它们的作者很多被斯大林定性为“人民公敌”，这也为巴别尔加罪一条：同情被清洗者。
1923～1926年期间，《骑兵军》部分篇章已在一些报纸杂志发表，引起文学界关注。1926年《骑兵军》全书首发，巴别尔让文学界刮目相看，他作为横空出世的苏俄年轻作家，很快成为文坛焦点。巴别尔获得了荣誉，同时也遭人嫉妒，甚至憎恶，昔日红色骑兵军军长布琼尼对《骑兵军》强烈反感，布琼尼认为巴别尔小说诋毁红军骑兵，他愤怒之极，威胁要像剁白菜那样刀劈巴别尔。苏联解体之后，历史学家在莫斯科郊外专门关押苏联政治犯的苏汉诺夫监狱（Суxaнoвcкaя тюрьмa），发现了巴别尔1939年的被捕审讯记录，他辩称：“《骑兵军》一书对我而言，不过源于我自童年与生俱来的恐惧感，它与苏联所发生的一切无关，但是其中确实渲染了国内战争的残酷性，自然主义和色情主义，漠视党的地位。”虽仅寥寥数语，足见巴别尔当时所承受的巨大精神压力。
1939年，苏联画家瓦涅齐安（Aрaм Baнeциaн）给巴别尔画了一幅肖像，成了巴别尔留在人间的最后图画。4月，巴别尔在列宁格勒举办了最后一场小说朗诵会。4月15日巴别尔被捕，理由是，他为外国机构从事间谍活动。巴别尔妻子彼洛什科娃回忆说，15日清晨，她住在莫斯科市内，而巴别尔住在郊外别列捷尔金诺作家村，两位带枪的秘密警察先将彼洛什科娃叫醒，带着她驱车赶往作家村，他们上前去叫门，巴别尔没有马上开门，彼洛什科娃知道巴别尔那时在穿衣服，他不会光着身子出来开门。巴别尔开门后，警察走进去搜查，彼洛什科娃随后走进屋来，她见到屋中的气氛很紧张，就对巴别尔莞尔一笑，说：“我还以为你去敖德萨了呢。”这时，两个警察把巴别尔的书稿和书信，装进一只只大口袋里，彼洛什科娃见状，又说：“真可惜，那是我们的家信。”其中一位警察还接茬说：“我们对你们的家信没有异议。”他说得对，因为无论对警察还是巴别尔本人，最重要的不是家信，而是手稿，那时，警察最想要的是巴别尔从事间谍工作的证据，而巴别尔则想保护自己刚刚杀青，还未来得及修改的长篇小说。
巴别尔于1920年加入布琼尼（Сeмён Будённый）指挥的红军第一骑兵军，他是该军参谋部主办的《红色骑兵报》的随军记者，他随部队在乌克兰西部与波兰军队作战，他亲眼目睹了杀戮和死亡，对他而言，骑兵军每一场战斗都是血与火的洗礼，死亡时刻在他内心引发剧烈骚动和恐怖，那段时间，巴别尔除了写日记之外，还给骑兵军战地报社撰稿以及给各级指挥部誊写公文，所有这些文字，后来均成为巴别尔文学创作的重要素材，有些直接写入短篇小说集《骑兵军》中。
根据苏联419号秘密卷宗披露，秘密警察前去搜查巴别尔的住宅，师出有名，内务部怀疑他“参与反苏阴谋恐怖活动和间谍活动”。秘密警察逮捕巴别尔的时候，还没收了他的全部手稿，具体数量是，15个文件袋，11个写满字的本子和7个写满了字的活页夹。
年轻的巴别尔也投身革命，他被布尔什维克接纳为红军“契卡”成员，所谓“契卡”，全称是“俄罗斯苏维埃联邦社会主义共和国人民委员会肃清反革命及怠工非常委员会”的简称，也是苏俄秘密间谍机构的前身。巴别尔成为红军特工后，异常兴奋，因为他“终于可以通过新生的苏维埃政权，洞悉俄国发生的一切：生与死、欢乐与痛苦、爱情与性”。巴别尔参加了“契卡”所有活动。比如，他参与了布尔什维克红军的“征粮队”（Прoдoвoльcтвeнныe oтряды），亲眼目睹红军征粮对乡村实施大规模野蛮抢劫。他觉得，布尔什维克的征粮运动，是残酷的征战、血腥的屠杀和对文明世界的毁灭。巴别尔从新生的无产阶级政权身上，同样窥见到愚昧、冷酷、残暴、肮脏和幻灭，于是，他开始如实地记录发生在身边的故事。巴别尔说，他在写作时，产生了幻觉：死亡如洪水猛兽，狂暴迅猛而至，他和芸芸众生，面对死亡，无路可逃，只能随波逐流，听天由命。巴别尔所记录的感受前所未有，他急欲与人分享，于是他写下了第一批文字，就是他早期的短篇小说作品。
巴别尔再也没有见到他被没收的手稿，而且至今查无下落，历史学家一致认为，那些手稿后来都被秘密警察销毁了，并且没有留下任何销毁手续。关进了监牢的巴别尔更是凄惨，他开始拒不交代自己的所谓罪行，被施以酷刑后，他精神彻底崩溃，竟然胡编乱造，“交代”了间谍组织的全部名单，名单中包括苏联著名作家爱伦堡、戏剧家梅耶荷德（Bceвoлoд Meйeрxoльд）和著名导演爱森斯坦等十余名苏联著名文艺家和社会活动家。巴别尔还被迫承认与托派有关系，在苏联作家、演员和导演中间，曾散布反苏言论以及为法国情报机构充当间谍。审讯记录显示，巴别尔说，他1933年通过作家爱伦堡认识了法国间谍作家安德烈·马尔罗，并向他提供了苏俄空军情报。虽然，巴别尔后来给苏联总检察长写翻供信，坦言他是在重刑逼供下胡编乱造，栽赃名人。尽管如此，戏剧家梅耶霍尔德还是因此锒铛入狱，最后被判处死刑。
不久，巴别尔上门向格隆范求婚，她父亲一口回绝，巴别尔一气之下，竟将格隆范拉上一架马车，两人竟然私奔到敖德萨。1919年8月9日，巴别尔和格隆范正式结为夫妻。那年，列宁和托洛茨基领导的布尔什维克红军，在巴别尔老家敖德萨发动政变，与白军开战，不久俄国全境战火四起，生灵涂炭，经济崩溃。后来，白军被红军击溃，最终被赶出乌克兰，格隆范父亲的农机厂被布尔什维克没收，俄国强制实施国有化，格隆范父亲的财产也被没收，他流浪基辅街头，整天抱着个小钱匣，东躲西藏，惶惶不可终日，变成了“俄国大革命时期的一只惊弓之鸟”。
巴别尔自1939年5月起，羁押在莫斯科郊外的苏汉诺夫监狱，当年在监狱的地盘上，有一座“圣叶卡捷琳娜”教堂。巴别尔和叶若夫都关在此，仅一墙之隔，先后遭到枪决，这听上去似乎非常讽刺，但却是事实。
其实，巴别尔根本无心攻读商学，对父亲的买卖更是心不在焉。有一次，父亲派他到基辅一家农机厂办理订货，他不专心看货，却将工厂老板详细揣摩了一番，回到学校不久，他就写了一篇描写农机厂老板的小说。再有，巴别尔年轻时风流倜傥，天生多情，对谈情说爱兴趣盎然，他与农机厂老板女儿格隆范（Евгeния Грoнфaйн）一见钟情，虽然格隆范中学尚未毕业，巴别尔却一腔热血地爱慕她，称她为天使。那时，格隆范还是梦幻少女，心地单纯，酷爱美术和文学，对才华横溢的大学生巴别尔一往情深。但是，农机厂老板，格隆范的父亲不看好巴别尔，觉得他轻浮而毛躁，高傲而不切实际，与他家的门风和理念格格不入，所以，他极力反对女儿与巴别尔交往。
1940年1月27日，巴别尔被苏联最高法院军事法庭判处死刑，执行名单由斯大林亲自签属。巴别尔的死刑由内务部行刑队执行，具体执行人是，莫斯科卫戍警长布洛欣及行刑队队员费季索夫和卡里宁。苏联内务部档案记载，行刑地点就在圣叶卡捷琳娜教堂旁边，卫戍警长布洛欣，走上前去，朝巴别尔头部开了一枪，杀死了这位文学天才。巴别尔的遗体葬于莫斯科顿河修道院（Дoнcкoй мoнacтырь）。时隔9天，即1940年2月4日，曾被巴别尔当作政治保护伞的叶若夫，也在同一地点被枪毙，并葬在一个杂乱的大坟场。
巴别尔在家排行老三，巴别尔的父亲是个犹太商人，经营农业机械，他处心积虑地追求致富，想让巴别尔学农机专业，盼望有朝一日，子承父业。但巴别尔更醉心于对敖德萨港口纷繁生活的观察和体验，他每日混迹盗匪横行的摩尔多瓦万卡工人区，被各种光怪陆离的真人版传说与故事所迷惑，对父亲栽培他经营农机之事兴趣索然。巴别尔除了对犹太人社区，还对音乐感兴趣，他的音乐启蒙老师，是苏俄著名小提琴教育家、苏联人民演员斯托利亚尔斯基（Пётр Стoлярcкий）。巴别尔生来就有语言天赋，他的法语讲得与俄语一样好，他还通晓英语、意地绪语和伊夫利特语，喜爱阅读和擅长文字表达，对写作特别有兴趣。不过，巴别尔的父亲却对此不以为然，他认为巴别尔这些爱好，不足以养家糊口，他强迫巴别尔到敖德萨商业学校学习，巴别尔被迫去学习，他1911年毕业，父亲又强迫他去基辅商学院深造，还协助父亲代理商业订货。
至此，巴别尔的好奇心终于画上了一个句号，一个神秘而急促、残忍又无奈的句号，一如他不朽的作品《骑兵军》。
巴别尔1894年生于南俄港口城市的敖德萨（今属乌克兰），而苏联时期没有一部文学档案能说清他的出生日月。《苏联简明文学百科》表明，巴别尔的出生日期是俄历7月1日，即新历7月13日。直到前不久，研究者才在1918年之前，敖德萨教会记录教民生老病死的手册中，发现用希伯来语记录的巴别尔生日：6月30日。后来我在乌克兰基辅商学院档案馆，看见巴别尔1915年的一份简历手迹，他说他出生于6月30日。
2015年暮春草于莫斯科郊外
我30岁以前翻译巴别尔小说《骑兵军》的时候，还没有去过他出生、成长和死去的那些城市，如敖德萨、尼古拉耶夫、基辅以及莫斯科，所以，我不可能读懂他的书，译文亦幼稚可笑。20年后，我旅俄归来，巴别尔的形象才逐渐在我笔下变得清晰和明朗，他本人和他笔下的人物形象，才逐渐丰满和鲜活，栩栩如生地朝我走来。
2016年初春改毕于北京厂洼