Si el Consejo superior de la magistratura aparece por primera vez en Francia con la ley del 31 de agosto de 1883, relativa a la organizacion judicial - la plenaria de la Corte de casación fue así denominada cuando cumplía la función de disciplinar a los magistrados –, sólo es en 1946 que la Constitucion de la Cuarta República crea un Consejo superior de la magistratura, como órgano constitucional autónomo.

El título IX de la Constitución del 27 de noviembre de 1946 establece un Consejo presidido por el Presidente de la República, cuyo vice-presidente es el Ministro de Justicia. Se compone de seis miembros elegidos por la Asamblea Nacional, cuatro elegidos por sus pares, y dos designados, en el seno de las profesiones judiciales, por el Presidente de la República. Los poderes del Consejo son también ampliados. Propone al Presidente de la República la nominación de los jueces ; asegura la disciplina y la independencia de los mismos, así como la administración de los tribunales judiciales. Sin embargo, nunca ha ejercido esta última competencia.

La Constitución del 4 de octubre de 1958 reforma la institución. Su composición es modificada. Al lado del Presidente de la República y del Ministro de Justicia, quienes siguen siendo su presidente y su vice-presidente, nueve miembros son designados por el Presidente de la República, ora directamente (dos personalidadesde altas calidades) ora por propuesta de la Corte de casación (seis magistrados) o de la asamblea plenaria del Consejo de Estado (un consejero de Estado). Sus poderes son limitados : en adelante solo propone al Presidente de la República la nominación de los consejeros de la Corte de casación y de los primeros presidentes de las cortes de apelación ; da un concepto sencillo sobre los proyectos de nominación de los otros jueces ; ratificado como consejo de disciplina de los jueces, decide bajo la presidencia del primer presidente de la Corte de casación.

La ley constitucional del 27 de julio de 1993 y la ley orgánica del 5 de febrero de 1994 modificaron profundamente el Consejo salido de la Constitución de 1958 : regreso al principio de elección para los magistrados miembros del Consejo ; creación de dos salas distintas, competente la una respecto de los jueces y la otra, respecto de los miembros del ministerio público ; nominación de miembros comunes a esas dos formaciones por altas autoridades del Estado (Presidente de la República, presidentes de las dos asambleas del Parlamento, asamblea general del Consejo del Estado) ; competencias nuevas a propósito de su poder de proposición que se extiende a los presidentes de tribunales de gran instancia, y, poder consultativo con conceptos en adelante vinculantes para los jueces y no vinculantes para los del ministerio público.

La ley orgánica del 26 de julio de 2001 modificó el modo de elección de magistrados, salvo el de los miembros de la Corte de casación y de los jefes de cortes y de tribunales. Se adoptó el escrutinio a representación proporcional de la lista, según la regla del cuociente más fuerte, sin posibilidad de mezclar votos por miembros de una y otra lista, y sin voto preferencial. Se cambió, además, tanto la forma de convocatoria como el modo de funcionamento del Consejo en función disciplinaria.

La ley orgánica del 5 marzo de 2007 otorga al Consejo superior de la magistratura misión de redactar y publicar el libro de las obligaciones deontologicas de los jueces y de los fiscales.