le debut
Avec Romain Bouteille, il est présent à l'origine du Café de la Gare, inauguré officiellement le 12 juin 1969, qui réunit une bande de jeunes comédiens dont beaucoup deviendront célèbres, tels que Patrick Dewaere, Henri Guybet, Miou-Miou, Gérard Depardieu, Thierry Lhermitte, Josiane Balasko, Gérard Jugnot.
Son premier sketch, C'est l'histoire d'un mec, tourne en dérision la difficulté de raconter une histoire drôle. Ses sketches suivants lui valent rapidement un succès populaire qui ne se démentira plus : « Il inventait pour les années 1970 une image de pauvre urbain, bonne pâte mais à court d'idées, empêtré dans les mots, raciste faute de mieux, ballotté par la publicité et les jeux radiophoniques »[6]. Il revendique sa grossièreté : « Toujours grossier, jamais vulgaire »[7].
Suite à ses problèmes d'alcool, qui le rendent exécrable voire violent, il se voit obligé de quitter la troupe en 1970[8].
En octobre 1971, Jacques Martin le recommande à Georges Folgoas, producteur de Midi magazine pour faire équipe avec Danièle Gilbert. L'expérience ne durera que cinq jours.
Le Vrai Chic parisien

En novembre 1971, il fonde une autre troupe, Au vrai chic parisien - Théâtre vulgaire, puis Le vrai chic parisien. Le premier spectacle s'intitule Thérèse est triste, avec une affiche réalisée par Jean-Marc Reiser.
C'est là qu'il rencontre sa femme, Véronique Kantor, étudiante de bonne famille qui se destine au journalisme. Il l'épouse le 16 octobre 1975. Ils ont eu deux garçons, Romain en 1972 et Marius en 1976.
Toujours à cause de son comportement, il quitte sa troupe une nouvelle fois et se lance dans une carrière solo.
Carrière solo
Au printemps 1974, Paul Lederman lui offre le Théâtre La Bruyère pour y prolonger Thérèse est triste, mais c'est un fiasco. Il devient son propre impresario, Claude Martinez devenant son associé.
Du 15 février au 2 mars 1974, il se produit à L'Olympia dans le spectacle Mes adieux au music-hall. C'est dans ce spectacle qu'apparaissent sa célèbre salopette à rayures bleues et son tee-shirt jaune. Il y met en scène ses personnages favoris, des beaufs grossiers, incapables de s'exprimer correctement, haineux. Le 10 mars 1974, il signe le contrat d'un premier disque : le 30 cm des Adieux.
Coluche apparaît pour la première fois à la télévision le 19 mai 1974, lorsque Guy Lux diffuse L'histoire d'un mec juste avant l'allocution du perdant de l'élection présidentielle, François Mitterrand, qui était en retard.

En 1975, il est en tournée à travers la France, lorsque toutes les radios diffusent son pastiche du jeu télévisé de Guy Lux, le Schmilblick[9]. Dans ce sketch apparaît un personnage célèbre de l'humoriste : Papy Mougeot.
En 1976, il remonte Ginette Lacaze à l'Élysée Montmartre avec les comédiens du Splendid, auxquels il a offert des mobylettes pour leurs déplacements.
Du 24 avril 1978 au 24 juin 1979, il co-anime avec Robert Willar et Gérard Lanvin l'émission On n'est pas là pour se faire engueuler sur Europe 1, mais son ton provocateur le fait renvoyer. Il triomphe dans le même temps tous les soirs au Gymnase.
Passé à RMC en janvier 1980, il se fait également renvoyer après seulement douze jours, après avoir pris l'antenne par un : « Bonjour, nous sommes en direct du rocher aux putes. »[10].
En plus de sa carrière de comique au théâtre, il joue à cette époque dans plusieurs comédies au cinéma, dont L'Aile ou la cuisse en 1976