Létait né à Odessa, la Babylone ukrainienne, capitale culturelle des Juifs qui vivaient dans l’empire des tsars. Dans ses diverses autobiographies de service, Lev Mekhlis évitera de mentionner ses origines sociales, ou il les truquera carrément. Il prendra toujours soin de souligner que sa langue maternelle est le russe. Il est plus probable qu’il a baigné dans un milieu yiddish, et son niveau d’instruction bien plus élevé que la moyenne laisse supposer qu’il sort d’un milieu aisé. En 1923, il affirmera devant Bajanov, un des secrétaires de Staline, qu’il est « communiste et non pas juif ». Une fois de plus, il pèche par omission en oubliant ce que les archives, elles, ont conservé: à savoir qu’il a adhéré à 18 ans au Poale Zion, un parti sioniste. Néanmoins on ne peut remettre en cause sa sincérité: Mekhlis est bolchevique avant tout, athée et sans la moindre tendresse pour son milieu d’origine.
Une énergie fiévreuse
Il fait la Première Guerre mondiale comme sous-officier dans une unité de cavalerie, dans les services arrière. Dès l’arrivée des bolcheviks au pouvoir, il entre au parti. Alors qu’il est commissaire politique de la 46 division d’infanterie, un rapport signale son énergie hors du commun, sa propension à empiéter sur les prérogatives du commandant et son habitude de frapper les soldats récalcitrants. Il se armée en charge de reprendre la Crimée aux Blancs. Mekhlis se retrouve sous les ordres de la commissaire Rosalia Zemliatchka. À ce titre, il prend part, en Crimée, au terrible massacre des troupes du général blanc Wrangel à qui l’on avait pourtant promis l’amnistie.