Le scénario s'inspire d'un fait divers survenu à Bordeaux en 1948 : trois ans plus tard, les jurés de la Cour d'assises ont acquitté les policiers au bénéfice du doute. Dans le contexte survolté de l'après-Mai 68, les producteurs craignent la censure et Marcel Carné met cinq ans à boucler le financement du film. Finalement, il obtient une autorisation de tournage sous réserve. Sa chance, dit-il, a été la censure qui a frappé
Le Condé (Yves Boisset, 1970) et assuré le succès du film : l'affaire a fait si grand bruit qu'au bout de six mois, elle a été levée moyennant quelques coupures. Du coup, le ministère de l'Intérieur a autorisé
Les Assassins de l'ordre sans coupure ni interdiction aux moins de 13 ans ou de 18 ans.
Le tournage se déroule en partie à Montlignon, dans une maison au n° 3 de la rue des Rossignols. Jacques Brel, qui a donné son dernier récital en 1967, retrouve le Val d'Oise à cette occasion : il est venu à Royaumont pour
Mon oncle Benjamin (Édouard Molinaro, 1969). Le réalisateur ne tarit pas d'éloges sur l'acteur :
« Le personnage Brel ressemble au personnage du film, quelqu'un qui n'aime pas l'injustice, qui en souffre même, et qui va jusqu'au bout de sa pensée et de sa morale, quitte à risquer sa carrière. Ce côté don quichottesque convient bien à Jacques. »
C'est à Montlignon que l'attachée de presse du film, Monette Josem, organise une petite fête avec toute l'équipe, pour fêter la fin du tournage. Jacques Brel, bien sûr, ainsi que Bobby Lapointe, qui joue aussi dans le film, sont présents. Une invitée surprise se mêle à l'assistance : la chanteuse Barbara.