Au sens le plus général, et particulièrement dans la musique occidentale, réunion d'instruments fonctionnant comme « masse », comme ensemble, et non comme addition de solistes, ce qui est le cas dans les formations « de chambre ». À partir de cette définition, le problème du nombre minimum d'instruments nécessaire pour qu'on parle d'un orchestre, et non d'une formation de solistes, devient secondaire : des œuvres pour huit instruments, comme l'Octuor de Schubert, sont de la musique de chambre, tandis que des œuvres pour un nombre égal d'instruments, mais pensées « orchestralement », c'est-à-dire en jouant systématiquement sur le total instrumental (comme le Concerto pour clavecin de Falla) sont déjà des œuvres d'orchestre.
Le mot orchestre vient du grec « orchestra » qui désigne d'abord un lieu : celui situé, dans le théâtre, entre scène et spectateurs, où évoluait le chœur dans la tragédie antique. On a donc appelé de ce même nom la formation musicale installée sur cet endroit, puis toute espèce de formation comportant un effectif important. Le terme a conservé, dans la langue d'aujourd'hui, le double sens de lieu et de groupe instrumental, « collection de tous les symphonistes », comme écrivait Jean-Jacques Rousseau. On parlait encore, au XVIIIe siècle, pour désigner cet ensemble, de symphonie.
Les différents types d'orchestre
On distingue dans la musique occidentale : a) le grand orchestre symphonique, composé en majorité de cordes et de vents, et dont la composition, entre le XVIIIe siècle et le début du XXe a varié de vingt instrumentistes à cent, cent cinquante, deux cents, voire, exceptionnellement, plusieurs centaines chez Berlioz ou Mahler ; b) l'orchestre de chambre, plus réduit (aujourd'hui il peut aller jusqu'à trente instrumentistes). Là encore, la définition en est très relative ; c'est plus une question d'écriture, de proportions et de contexte, qu'une question mathématique d'effectif ; c)les orchestres utilisant une famille délimitée d'instruments : l'orchestre à cordes, composé du quintette traditionnel ; l'orchestre d'« harmonie », utilisant les vents et les percussions et issu des orchestres militaires et de plein air. On a également constitué des orchestres d'accordéons, des orchestres de guitares, de flûtes à bec, etc.
Par analogie, on donne le nom d'orchestre à ces formations assez fournies qu'on trouve dans les musiques extra-européennes : gamelan balinais (la musique balinaise étant la plus proche de notre conception orchestrale), ou ensemble de gagaku japonais. La musique de jazz a su constituer un orchestre original, à base de cuivres ; on parle encore d'orchestres de variétés, de danse. Mais on s'attardera ici plutôt sur l'orchestre symphonique traditionnel de la musique occidentale.
L'orchestre symphonique occidental
Cet orchestre, au sens moderne, s'est constitué à partir de son noyau central, l'orchestre à cordes, à quatre pupitres (violons 1, violons 2, altos, violoncelles) ou à cinq (les mêmes, plus un pupitre de contrebasses qui au départ se contentent de doubler les violoncelles à l'octave inférieure dans une fonction de renforcement). Les 24 Violons du Roy de Lully sont souvent considérés comme un des premiers orchestres au sens d'aujourd'hui. À partir de là s'est constitué l'orchestre symphonique, centré sur les cordes et peu à peu enrichi des interventions des bois, utilisés généralement « par deux » (deux hautbois, deux bassons, deux cors, la flûte restant souvent solitaire dans la musique de l'époque classique).
C'est au XVIIIe siècle, en effet, que se stabilise le concept d'orchestre, lequel repose (c'est une évidence, mais que l'on souligne rarement) sur une certaine dialectique, une certaine répartition des fonctions entre deux sous-ensembles qui ne sont pas interchangeables : les cordes (qu'on appelle aussi souvent le quatuor, ou le quintette), où chaque pupitre doit être très fourni (cinq, dix, vingt instrumentistes pour chaque poste), et, de l'autre côté, les vents, que l'on appelle souvent l'harmonie, où les pupitres sont moins garnis (par un, deux, ou trois, plus rarement par quatre). Quant aux timbales et aux harpes (introduites, elles, au XIXe siècle), elles n'ont le plus souvent qu'un rôle de ponctuation et de décoration très délimité. Par essence, l'orchestre fonctionne donc sur une certaine dissymétrie hiérarchisée : la masse des cordes, qui est le « noyau dur » de l'orchestre, et le groupe des vents, bois et cuivres, qui en est le satellite. Pourquoi un tel partage des rôles ?
Cordes et vents
Il faut d'abord rappeler que, dans les débuts de l'orchestre, et en mettant à part les instruments à clavier et à cordes pincées, les instruments qui offrent le plus de possibilités de virtuosité, de traits, de souplesse, de lié, de phrasé, de variétés de modes d'attaque (avec l'archet, en pizzicato, etc.), et de capacités de jouer dans tous les tons, ce sont, de loin, les cordes. Les vents, eux, ont dû attendre, pour la plupart, les efforts des luthiers des XVIIIe et XIXe siècles, qui les équipèrent de clefs, de soupapes et de pistons, pour conquérir à peu près la même virtuosité, la même capacité modulante, la même souplesse de jeu, la même justesse et homogénéité d'émission.
D'autre part, il est significatif que les cordes seules, ou presque, aient conservé jusqu'à nos jours le principe, cher à la musique de la Renaissance, d'une famille de timbres homogène du grave à l'aigu (contrebasse, basse, ténor, alto, soprano). Pendant la Renaissance, un grand nombre d'instruments, des flûtes à bec aux violes, en passant par les cromornes, étaient construits par familles de plusieurs tailles, couvrant tous les registres et formant des ensembles complets. Au XVIIIe siècle, il n'y avait plus de telle famille pour les instruments à anches ou les flûtes. On reconstruisit ensuite des flûtes basses, des clarinettes basses, des contrebassons, qui restèrent d'un emploi assez rare. Si les vents de l'orchestre symphonique classique forment, du basson au piccolo, une petite famille, c'est dans une hétérogénéité voulue de timbres.
C'est à partir de cette autosuffisance du quatuor que l'intervention des vents, d'abord très circonscrite et limitée, prend tout son sens. À l'époque classique, la flûte, le hautbois, le basson, le cor ou la trompette sont bien loin, surtout pour les cuivres, d'atteindre à la même facilité de jeu, dans tous les tons, que les cordes. Par contre, ils sonnent plus nettement, avec une couleur plus franche. Alors que les cordes doivent être assez nourries pour former une certaine masse efficace, l'instrument à vent, même en solo, porte et marque plus facilement. La répartition des rôles est donc la suivante : les cordes donnent le dessin, le trait, la trame, la structure ; tandis que l'harmonie (les vents) pose sur ce dessin ses touches de couleurs, souligne, ajoute du liant par ses tenues, fait miroiter ses oppositions de couleurs sur la base dessinée par le quintette à cordes. Parfois, les vents ont l'initiative temporaire du chant, de la mélodie ; ils peuvent même reformer un petit orchestre à l'intérieur du grand (comme dans certains mouvements lents des concertos de Mozart), mais c'est toujours dans le moment, entre parenthèses ou en introduction comme par autorisation spéciale ce qui n'empêche pas, bien au contraire, ces interventions d'être d'un charme particulier, celui de l'éphémère, de l'allusif, du passager. Cependant, la plupart du temps, l'harmonie a une tâche plus humble et discrète : elle colore la masse des cordes par des doublures, ponctue et renforce par des notes isolées, relie par des tenues (qui en même temps affirment les « notes tonales »). Ce rôle peut paraître accessoire, mais supprimons d'une symphonie de Haydn ou de Mozart ces interventions de l'harmonie : souvent, le discours musical, le dessin mélodique et harmonique ne changent pas beaucoup, mais ce n'est plus un orchestre. Quelque chose de très important a été perdu, comme dans un vitrail qui cesse d'être éclairé par la lumière.