Der Bundesrechnungshof wurde im Jahr 1950 in Frankfurt am Main errichtet. Im Zuge des Berlin/Bonn-Gesetzes wurde der Sitz des Bundesrechnungshofes von Frankfurt nach Bonn verlegt. Seit dem 1. Juli 2000 ist der Bundesrechnungshof im Gebäude des ehemaligen Postministeriums in der Adenauerallee untergebracht.
Zu Beginn des Jahres 1998 wurden neun Prüfungsämter des Bundes geschaffen und gleichzeitig die Vorprüfungsstellen des Bundes aufgelöst. Die Prüfungsämter waren dem Bundesrechnungshof nachgeordnet und unterlagen seiner Dienst- und Fachaufsicht.
2017 gingen die Prüfungsämter mit ihren Beschäftigten in den unmittelbaren Geschäftsbereich des Bundesrechnungshofes über. Eine echte einstufige Finanzkontrolle des Bundes war damit geschaffen. Zugleich überarbeitete der Bundesrechnungshof seine Organisationsstruktur und seine Aufgabenverteilung grundlegend. Er entwickelte damit die Funktions- und Handlungsfähigkeit der externen Finanzkontrolle gezielt weiter.

