Die externe Finanzkontrolle in Deutschland blickt auf eine über 300-jährige Tradition zurück.

Im Jahre 1714 rief der preußische König Friedrich Wilhelm I. eine „General-Rechen-Kammer“ (später „Preußische Oberrechnungskammer“) ins Leben. Sie sollte als eigenständiges, von der Verwaltung unabhängiges kollegiales Prüfungsorgan wirken. Ihr Sitz war zunächst Berlin. 1818 siedelte die General-Rechen-Kammer nach Potsdam über. Sie hatte die Rechnungen des Staatshaushalts zu prüfen und über das Ergebnis in so genannten Bemerkungen zu berichten. Außerdem legte sie Gutachten und Vorschläge für Verwaltungsreformen vor.

Im Jahre 1868 wurde der Preußischen Oberrechnungskammer zusätzlich die Rechnungsprüfung des Norddeutschen Bundes und 1871 die des Deutschen Reiches übertragen. Fortan war sie zugleich der „Rechnungshof des Deutschen Reiches“. Ihr Präsident war in Personalunion auch Präsident dieses Rechnungshofes. Bis 1945 bestand die Preußische Oberrechnungskammer als preußische Kontrolleinrichtung fort. Nach dem Kriegsende im Jahre 1945 nahm zunächst die Außenstelle des Rechnungshofes des Deutschen Reiches in Hamburg ihre Tätigkeit wieder auf. Später setzte sie ihre Arbeit unter der Bezeichnung „Rechnungshof für Sonderaufgaben“ fort.

1948 wurde in Frankfurt am Main der „Rechnungshof im Vereinigten Wirtschaftsgebiet“ errichtet, der unmittelbarer Vorläufer des Bundesrechnungshofes war. Er übernahm die Aufgaben und Befugnisse des „Rechnungshofes für Sonderaufgaben“ und nach Inkrafttreten des Grundgesetzes vorübergehend auch die Befugnisse des Rechnungshofes für den Bund.

Der Bundesrechnungshof wurde im Jahr 1950 in Frankfurt am Main errichtet. Im Zuge des Berlin/Bonn-Gesetzes wurde der Sitz des Bundesrechnungshofes von Frankfurt nach Bonn verlegt. Seit dem 1. Juli 2000 ist der Bundesrechnungshof im Gebäude des ehemaligen Postministeriums in der Adenauerallee untergebracht.

Zu Beginn des Jahres 1998 wurden neun Prüfungsämter des Bundes geschaffen und gleichzeitig die Vorprüfungsstellen des Bundes aufgelöst. Die Prüfungsämter waren dem Bundesrechnungshof nachgeordnet und unterlagen seiner Dienst- und Fachaufsicht.

2017 gingen die Prüfungsämter mit ihren Beschäftigten in den unmittelbaren Geschäftsbereich des Bundesrechnungshofes über. Eine echte einstufige Finanzkontrolle des Bundes war damit geschaffen. Zugleich überarbeitete der Bundesrechnungshof seine Organisationsstruktur und seine Aufgabenverteilung grundlegend. Er entwickelte damit die Funktions- und Handlungsfähigkeit der externen Finanzkontrolle gezielt weiter.