Era filho de imigrantes judeus do Brooklyn e seu verdadeiro nome era Moses Horwitz

Seu verdadeiro nome era Harry Moses Horwitz e nasceu em uma pequena comunidade judaica nas vizinhanças do Brooklyn. Foi o quarto de cinco filhos de Solomon e Jennie Horwitz, um casal de imigrantes de origem judaica. Seus dois irmãos mais velhos, Irving e Gato, foram os únicos que não fizeram carreira no mundo do espetáculo.
Seu primeiro contacto com o teatro foi em sua etapa escolar, quando dirigiu e protagonizou uma pequena obra. Mas é em 1909 que Moe conhece Ted Healy, com quem desenvolveu uma amizade, que o levou a conseguir em 1912 seu primeiro papel. A isso se seguiram vários papéis menores em bares e outros centros de diversão, em alguns dos quais começou a fazer parceria com seu irmão mais velho, Shemp.
Deste modo foram entrando nos circuitos de teatro de Lowe e da RKO. Em 1922 Moe e seu irmão voltaram a encontrar-se com Ted Healy, com quem representaram um número teatral sob o nome de Ted Healy and his Racketeers (Ted Healey e seus trapaceadores), conhecendo os primeiros êxitos de público desde então.
Em 1925 Moe casou-se com Helen Schonberger, prima do famoso mágico e ator Henry Houdini, e que seria sua companheira sentimental pelo resto de sua vida. Moe abandonou Ted Healy em 1927, ano em que nasceu sua primeira filha, Joan Howard, a qual depois escreveria um livro biográfico sobre seu pai. Seu outro filho, Paul Howard, nasceu em 1935.
Depois de dois anos de ausência na atuação, Moe retornou com Ted Healy em 1929 para realizar um show na Broadway chamado "Uma noite em Veneza". Nesse tempo o grupo de Healy (Ted Healy e seus quatro patetas), se compunha de Moe, Shemp Howard, Larry Fine e Fred Sandborn. Com esta configuração filmaram sua primeira película em 1930: "Soup to Nuts".
Entretanto, as desavenças com o líder do grupo, aos quais se somavam o alcoolismo deste, fizeram com que logo Shemp se fosse para iniciar uma carreira individual por vários anos, até 1946.
O substituto de Shemp foi seu irmão Curly ("Babe"), seu irmão mais novo, que desde então assumiu seu aspecto posteriormente conhecido, raspando a cabeça e o bigode que até então usava. O grupo de Ted Healy realizou alguns filmes mais para a MGM, até sua dissolução definitiva em 1934, ano em que Moe, Larry e Curly passaram para a  Columbia Pictures, onde conheceriam a fama com o nome de Os Três Patetas, realizando (com os de Shemp e Joe Besser incluídos), 190 curtas até 1958.
Moe assumiu no trio o papel central, fazendo cena com um humor agressivo e violento em ocasiões que desenvolveu em todos os anos de sua atuação a frente do mesmo. Não obstante, esta postura era a antítese do que era o ator na vida privada: sereno, sentimental e generoso tanto na vida familiar como na amizade. Este contraste era ainda mais marcante se comparado com seus companheiros da tela: Larry era um jogador empedernido e Curly viveu uma vida noturna e rumorosa. Moe, além disso, foi o diretor financeiro da trinca, e era ele que se ocupava das negociações.

Moe morreu em Los Angeles, Califórnia, em 4 de maio de 1975, de um câncer do pulmão, pouco antes de cumprir os 78 anos de idade. (Fonte: Inforegion