Les films ultérieurs, notamment Une nuit à l'Opéra, comportent encore d'excellents morceaux, mais quelque chose commence à se déliter, la « soudure » se fissure entre les trois personnages. Et, si l'invention verbale de Groucho n'a pas tari, la fantaisie de Harpo a tendance à devenir plus anodine, sauf dans Go West, où il reprend et transforme en rage pure le gag du chemin de fer qu'on brûle pour le faire avancer (gag inventé par Keaton pour le Mécano de la General) ; certaines trouvailles superbes (une cabine de navire progressivement emplie à ras d'êtres humains dans Une nuit à l'Opéra (A Night at the Opera, S. Wood, 1935) sont un peu perdues dans des intrigues auxquelles manque la frénésie de naguère. Le déclin devient alors sensible de film en film : Un jour aux courses (A Day at the Races, id., 1937) ; Panique à l'hôtel (Room Service, W. A. Seiter, 1938) ; Un jour au cirque (At the Circus, E. Buzzell, 1939) ; Chercheurs d'or (Go West, id., 1940) ; les Marx Brothers au grand magasin (The Big Store, Charles Riesner, 1941), film à la décoration duquel Salvador Dalí passe pour avoir collaboré, et The Doughgirls (James V. Kern, 1944). En 1946, Groucho Marx a l'idée de « parodier » Casablanca de Michael Curtiz, et cette seule idée marque l'appauvrissement de l'invention, par rapport à la perpétuelle « fête du collège » qui servait de repère aux improvisations du génial trio. Le film (Une nuit à Casablanca [A Night in Casablanca], A. Mayo) ne manque pas d'intérêt — une inquiétude diffuse y tourne au cauchemar — mais, après un célèbre gag d'ouverture, il languit fâcheusement. Quant à la Pêche au trésor (Love Happy, D. Miller, 1950), c'est un mélange des Marx Brothers (mais où chacun tient sa partie pour soi) et de comédie musicale (avec la séduisante Vera-Ellen) : Groucho y « regarde » passer Marilyn Monroe, il y a quelques gags (peu originaux) et l'on sent qu'une époque se termine.

L'association des frères était rompue dans les faits. Scénariste en 1937 du film de Mervyn LeRoy, The King and the Chorus Girls, Groucho joua des « extras » dans divers films musicaux (Copacabana, A. E. Green, 1947 ; Mister Music, Richard Haydn, 1950 ; Double Dynamite, id., I. Cummings, 1951) et apparut furtivement dans A Girl in Every Port (Chester Erskine, 1952). Le trio reparut (mais dans des épisodes séparés) en 1957, dans la bouffonne Story of Mankind d'Irwin Allen (Harpo y tenait le rôle d'Isaac Newton, et Groucho celui de l'homme qui acheta Manhattan aux Indiens). Chico prit le premier sa retraite, tandis que Harpo rédigeait ses Mémoires : Harpo Speaks ! (1961). Devenu une grande vedette de la TV (You Bet Your Life), Groucho joue au cinéma son propre rôle dans la Blonde explosive (F. Tashlin, 1957) et celui de « Dieu », en réalité un chef de gangsters, dans la grinçante comédie de Preminger, Skidoo ! (1968). Ses apparitions au petit écran, bien que plus rares, durèrent jusqu'au début des années 70. En 1972, il revient au Carnegie Hall pour un one-man-show et reçoit au festival de Cannes une récompense spéciale. Ses toutes dernières années furent marquées par la lutte contre une douloureuse maladie. Il écrit encore : Groucho and Me (Groucho et moi, 1962) ; Memoirs of a Mangy Lover, 1964 ( Mémoires d'un amant lamentable, 1980) ; Letters of Groucho Marx (1967). Leur drôlerie est parfois facile, mais souvent on y retrouve la férocité, la faconde, l'humour ravageur et triomphant de l'homme « à la moustache et au cigare », inséparable, dans notre souvenir, de ses deux impayables acolytes.