Le COS a été créé par l’arrêté du ministre de la Défense Pierre Joxe, le 24 juin 1992. L’arrêté du 5 janvier 2017 en fixe les attributions actuelles :
« [Le commandement des opérations spéciales] est chargé de planifier, préparer, coordonner et conduire les opérations spéciales, qui sont des opérations militaires menées en dehors des cadres d’actions classiques, visant à atteindre des objectifs d’intérêt stratégique, notamment en termes d’actions d’environnement, d’ouverture de théâtre d’opérations, d’intervention dans la profondeur sur des objectifs à haute valeur, ou en matière de lutte contre les organisations terroristes. Il peut se voir confier la conduite ou la participation à des opérations de libération d’otages hors du territoire
national. Il contribue à des activités de recueil et d’exploitation du renseignement, en particulier en milieu non permissif. »

Cette création fut l’œuvre du général Le Page qui fut guidé par des intuitions simples :


- de l’opérationnel et pas de l’organique,


- un commandement plutôt qu’une direction des opérations spéciales,


- une chaine décisionnelle courte et de la subsidiarité pour garantir réactivité et discrétion,


- de l’anticipation et de l’innovation dans tous les domaines (procédures et équipements) pour disposer au bon moment, du « bon bistouri pour le bon malade »,
- enfin des standards de recrutement et de formation très élevés devant légitimer la capacité à mettre en œuvre des moyens particuliers et des procédures spécifiques.

Les personnels et les matériels utilisés sont mis à disposition du COS par le CEMA à partir des moyens provenant des unités des forces armées françaises. Le COS est un commandement opérationnel et n’a pas d’autorité organique sur les unités qu’il emploie. L’état-major du COS (situé à Balard) ainsi que les TF (Task Force) déployées en opérations sont donc totalement interarmées, bénéficiant ainsi de la richesse et de l’émulation produites par la diversité des expériences, des compétences et des origines.

La composante spéciale de l’armée de Terre regroupe sous le commandement des forces spéciales Terre (COM FST) basé à Pau, la compagnie de commandement et de transmissions des forces spéciales (CCTFS), le premier régiment de parachutistes d’infanterie de Marine (1er RPIMa), le 13e régiment de dragons parachutistes (13e RDP) et le 4e régiment d’hélicoptères des forces spéciales (4e RHFS).

La composante spéciale de la Marine nationale est composée des sept commandos (Hubert, Jaubert, Trépel, de Penfentenyo, de Monfort, Kieffer, et Ponchardier) de la force maritime des fusiliers marins et commandos (FORFUSCO), qui comprend aussi les unités de fusiliers marins servant à la protection défense des emprises de la marine.

La composante spéciale de l’armée de l’Air regroupe depuis le 1er septembre 2020, au sein de la brigade des forces spéciales air (BFSA), les commandos parachutistes de l’air (CPA) n° 10 et n° 30, l’escadron de transport ET 3/61 (« Poitou ») et l’escadron d’hélicoptères EH 1/67 (« Pyrénées »).

Le Service de Santé des Armées dispose d’une Chefferie dédiée aux forces spéciales (1° CSS), basée à Villacoublay.
L’officier général commandant le COS est désigné par l’acronyme « GCOS ». Le premier GCOS en 1992 a été le général de brigade Maurice Le Page.

Les commandants successifs du COS après le général Le Page ont été :
les généraux Jacques Salaün (Air) de 1996 à 2000, puis André Ranson (2000 – 2001), Henri Poncet (2001-2004), Benoît Puga (20042007), tous trois de l’armée de Terre, le contre-amiral Pierre Martinez (2007 – 2009), les généraux de l’armée de Terre Frédéric Beth (2009 – 2011), Christophe Gomart (2011 – 2013), Grégoire de Saint-Quentin (2013 – 2016), le contre-amiral Laurent Isnard (2016 – 2019).

L’actuel GCOS est le général de division Eric Vidaud (Terre).