Ses débuts furent impressionnistes. Il n'avait que vingt et un ans lorsque son œuvre, La Seine à Asnières, fut exposée à la Société nationale des beaux-arts en 1902. L'année suivante, il participa au premier Salon d'automne et subit rapidement l'influence de Fernand Léger, Robert Delaunay, Jean Metzinger et Henri Le Fauconnier. En 1907, Gleizes et quelques-uns de ses amis poursuivirent l'idée de créer une communauté d'artistes autonomes qui leur permettrait de développer leur art à l'abri de toute préoccupation commerciale. Pendant près d'un an, dans une grande maison de Créteil, Gleizes, ainsi que d'autres peintres, poètes, musiciens et écrivains, se réunirent pour créer. Le manque de revenus les contraignit à partir début 1908, et Gleizes s'installa temporairement à La Ruche, la communauté artistique du quartier de Montparnasse à Paris. En 1910, il adhère au cubisme, dont il est l'un des premiers et plus importants théoriciens, avec Jean Metzinger. Il expose au Salon des Indépendants à Paris la même année. Il collabore ensuite avec Metzinger et rédige en 1912 Du cubisme et des moyens de le comprendre, lui donnant ainsi une base théorique et esthétique.
À l'automne de la même année, il rejoint, avec Metzinger, le Groupe de Puteaux, aussi connu sous le nom de Section d'Or, dirigé par Jacques Villon et son frère Marcel Duchamp. En février 1913, Gleizes et d'autres artistes présentent ce nouveau style de peinture au public américain lors de l'Armory Show de New York.
Avec le déclenchement de la Première Guerre mondiale, Albert Gleizes s'engage dans l'armée française. Chargé d'organiser des divertissements pour les troupes, il est contacté par Jean Cocteau pour concevoir les décors et les costumes de la pièce de William Shakespeare, Le Songe d'une nuit d'été. Démobilisé à l'automne 1915, Gleizes et sa nouvelle épouse, Juliette Roche, fille d'un éminent et riche homme d'État français, s'installent à New York. De là, le couple embarque pour Barcelone, où ils sont rejoints par Marie Laurencin, Francis Picabia et son épouse. Le groupe passa l'été à peindre dans la zone touristique de Tossa de Mar, et en décembre, Gleizes organisa sa première exposition personnelle aux Galeries Dalmau de Barcelone. De retour à New York, Gleizes commença à écrire des compositions poétiques en vers et en prose.
Il se rendit aux Bermudes, où il peignit une série de paysages, mais après la fin de la guerre, il retourna en Europe, où sa carrière s'orienta davantage vers l'enseignement par ses écrits. Il s'impliqua au sein du comité des Unions Intellectuelles Françaises.
En 1923, il publia, seul, La Peinture et ses Lois, dans lequel il annonçait le retour de l'art religieux et revalorisait la production artistique médiévale.
Rêvant encore de ses années de communauté à Créteil, il fonda en 1927 une colonie d'artistes dans une maison louée, Moly-Sabata, à Sablons, près de la maison familiale de sa femme à Serrières, en Ardèche, dans la vallée du Rhône.
En 1931, Gleizes rejoint le comité Abstraction-Création, qui sert de forum à l'art non figuratif international. Son œuvre reflète alors le renforcement de ses convictions religieuses, et son ouvrage de 1932, *La Forme et l’histoire*, examine l'art celtique, roman et oriental. En tournée en Pologne et en Allemagne, il donne des conférences intitulées *Art et Religion*, *Art et Production* et *Art et Science* et écrit un ouvrage sur Robert Delaunay, mais celui-ci ne sera jamais publié. En 1937, Gleizes reçoit une commande de peintures murales pour l'Exposition générale des Expositions de Paris de 1937 (Exposition générale des Expositions universelles). Il collabore avec Delaunay pour le Pavillon de l'Air et avec Léopold Survage et Fernand Léger pour le Pavillon de l'Union des artistes modernes. Fin 1938, Gleizes se porte volontaire pour participer aux séminaires et groupes de discussion gratuits créés par Robert Delaunay dans son atelier parisien. À la fin des années 1930, la riche amatrice d'art Peggy Guggenheim acheta de nombreuses œuvres d'art à Paris, dont des œuvres d'Albert Gleizes. Elle les rapporta aux États-Unis et elles font aujourd'hui partie de la collection Peggy Guggenheim.
Pendant la Seconde Guerre mondiale, Gleizes et sa femme restèrent en France occupée. Ses convictions religieuses s'approfondirent et, à la fin de la guerre, il fut salué par certains comme l'auteur qui établit les principes du renouveau de l'art religieux. En 1948, Gleizes accepta l'offre d'un éditeur casablancais de réaliser une série de dessins illustrant les Pensées sur l'homme et sur Dieu de Blaise Pascal. En 1951, il fut nommé membre du jury du Prix de Rome et le gouvernement français lui décerna la Légion d'honneur. En 1952, il acheva sa dernière œuvre majeure, une fresque intitulée Eucharistie, qu'il peignit pour la chapelle des Jésuites de Chantilly. Albert Gleizes mourut à Avignon, dans le Vaucluse, en 1953 et fut inhumé dans le mausolée familial de sa femme, au cimetière de Serrières.
