Jan Olszewski jako młody człowiek działał w Szarych Szeregach, był również uczestnikiem Powstania Warszawskiego.
Był działaczem opozycyjnym i obrońcą w procesach politycznych. Jako adwokat reprezentował w procesach politycznych działaczy „Solidarności” i organizacji wolnościowych. Bronił m.in. Zbigniewa Romaszewskiego i innych twórców i uczestników Radia „Solidarność”, Zbigniewa Bujaka, Lecha Wałęsy i Jacka Kuronia. Za obronę studentów, którzy organizowali manifestacje antyrządowe został zawieszony w prawach wykonywania zawodu. Był oskarżycielem posiłkowym w procesie morderstwa bł. ks. Jerzego Popiełuszki.
Pod koniec lat 80. współtworzył Komitet Obywatelski przy Przewodniczącym NSZZ „Solidarność”. Uczestniczył w obradach Okrągłego Stołu jako ekspert ds. reformy prawa i sądów.
W 1991 r. został premierem rządu, jednak stracił stanowisko podczas pamiętnej „nocy teczek”. Zanim wycofał się z polityki był doradcą prezydenta Lecha Kaczyńskiego, a w 2007 r. szefem komisji weryfikacyjnej WSI. W 2009 roku został odznaczony Orderem Orła Białego. Był również członkiem Kapituły tego orderu.
Od lat chorował na serce. Zmarł w wieku 89 lat.