Ян Минчжай родился в марте 1882 года в Пинду провинции Шаньдун. В 16 лет он бросил учебу и занялся сельскохозяйственной деятельностью. Когда ему было 19 лет, он переехал на Северо-Восток Китая, а затем отправился в Россию. Благодаря усердию он хорошо овладел русским языком.

В 1908 году Ян Минчжай отправился в горнодобывающий район в Сибири, где в качестве китайского рабочего участвовал в деятельности большевиков и официально вступил в партию большевиков до «Октябрьской революции». После «Октябрьской революции» тысячи китайских мигрантов-рабочих вступили в Красную армию. Ян Минчжай активно призывал китайских мигрантов вступать в ряды советской Красной армии, а также поступил на учебу в Коммунистический университет трудящихся Востока в Москве. По окончании учебы он был направлен во Владивосток для участия в революционной деятельности. Ян Минчжай стал одним из первых китайских коммунистов.

В 1919 году в Китае вспыхнуло Движение 4-го мая, которое привлекло внимание Коммунистического Интернационала. Коминтерн решил отправить рабочую группу в Китай. В начале 1920 года Ян Минчжай в составе рабочей группы, возглавляемой  представителем Коминтерна Григорием Войтинским, прибыл в Китай, где он работал переводчиком, советником и учителем.

В сентябре 1920 года Ян Минчжай открыл на территории Шанхайской французской концессии курсы иностранных языков. Эта была первая школа КПК по подготовке революционных кадров. Ян Минчжай работал директором школы и лично преподавал русский язык многим первым членам КПК.

Для пропаганды марксизма и ознакомления Китая с российским опытом в «Октябрьской революции» Ян Минчжай создал и возглавил Китайско-русское новостное агентство. Это первая общественная организация, созданная рабочей группой Коминтерна, и первая рабочая организация, пропагандирующая марксизм. Агентство занималось переводом материалов о Советской России и Коминтерне.

С июня по июль 1921 года, в преддверии первого съезда Компартии Китая, Ян Минчжай в качестве представителя КПК участвовал в третьем съезде Коммунистического Интернационала, став одним из первых членов КПК, принявших участие в совещаниях Коминтерна.

В 1924 году партия Гоминьдан и КПК приступили к первому раунду сотрудничества. Чтобы удовлетворить потребности в подготовке кадров для двух партий – Гоминьдана и КПК, по решению Коминтерна, в октябре 1925 года в Москве был создан Университет трудящихся Китая им. Сунь Ятсеня, предназначенный для подготовки кадров для китайской революции, Гоминьдана и КПК. Ян Минчжай был назначен проректором университета.

Ян Минчжай пользовался безграничным уважением у первых китайских коммунистов, в большинстве состоявших из людей среднего и молодого возраста. В воспоминаниях о становлении Компартии Китая Чжоу Эньлай называл Ян Минчжая «честным и почтенным учителем».