어려서부터 이이(李珥)를 사숙(私淑)했고, 20세 때 김장생(金長生)의 문하생이 되었다. 1624년(인조 2) 진사가 된 뒤 학행으로 천거받아 1630년 세마(洗馬)에 제수되었다.
이후 효종이 즉위할 때까지 내시교관(內侍敎官)·동몽교관(童蒙敎官)·시직(侍直)·대군사부·예안현감·형조좌랑·사헌부지평·한성부판관 등에 임명되었으나 대부분 관직에 나가지 않았고, 단지 1633년에만 잠깐 동몽교관직에 나갔다가 장인 정경세(鄭經世)의 죽음을 이유로 사퇴하였다.
1649년김장생의 아들로 산당(山堂)의 우두머리인 김집(金集)이 이조판서로 기용되면서 송시열(宋時烈)과 함께 발탁되어 부사직(副司直)·진선(進善)·사헌부장령 등을 거쳐, 사헌부집의에 올랐고 통정대부로 품계가 올랐다.
이 해에 인조 말부터 권력을 장악한 김자점(金自點)·원두표(元斗杓) 등 반정공신 일파를 탄핵하여 몰락시켰으나, 김자점이 효종의 반청정책을 청나라에 밀고하여 송준길도 벼슬에서 물러났다.
그 뒤 집의·이조참의 겸 찬선 등으로 여러 번 임명되었으나 계속 사퇴하였으며, 1658년(효종 9) 대사헌·이조참판 겸 좨주를 거쳤다.
1659년 병조판서·지중추원사(知中樞院事)·우참찬으로 송시열과 함께 국정에 참여하던 중, 효종이 죽고 현종이 즉위하자 자의대비(慈懿大妃)의 복상 문제로 이른바 예송(禮訟)이 일어났는데 송시열이 기년제(朞年祭)주 01)를 주장할 때 송시열을 지지하였다. 이에 남인(南人)의 윤휴(尹鑴)·허목(許穆)·윤선도(尹善道) 등의 3년설과 논란을 거듭한 끝에 일단 기년제를 관철시켰다.
이 해에 이조판서가 되었으나 곧 사퇴하였다. 이후 우참찬·대사헌·좌참찬 겸 좨주·찬선 등에 여러 차례 임명되었으나, 기년제의 잘못을 규탄하는 남인들의 거듭되는 상소로 계속 사퇴하였다. 단지, 1665년(현종 6) 원자의 보양(輔養)에 대한 건의를 하여 첫 번째 보양관이 되었으나, 이 역시 곧 사퇴하였다.
1673년 1월 영의정에 추증되었으나 1674년 효종의 왕비인 인선대비(仁宣大妃)가 죽자 또 한 차례 자의대비의 복상 문제가 일어나게 되었다.
그런데 이번에는 남인의 기년제설이 서인의 대공설(大功說)주 02)을 누르고 남인의 주장을 관철, 남인이 정권을 장악하였다. 이에 1675년(숙종 1)허적(許積)·윤휴·허목 등의 공격을 받아 관작을 삭탈당하였다. 이어 1680년 경신환국으로 서인이 재집권하면서 관작이 복구되었다. 송시열과 동종(同宗)이면서 학문 경향을 같이한 성리학자로 이이의 학설을 지지하였다. 특히 예학(禮學)에 밝아 일찍이 김장생이 예학의 종장(宗匠)이 될 것을 예언하기도 하였다. 문장과 글씨에도 능하였다.
1681년 숭현서원(崇賢書院)에 제향되고 문정(文正)이라는 시호를 받았다. 같은 해 김장생과 함께 문묘(文廟)에 종사(從祀)할 것이 건의된 이래, 여러 차례 상소가 있은 다음 1756년(영조 32) 문묘에 제향되었다.
충현서원(忠賢書院)·봉암서원(鳳巖書院)·돈암서원(遯巖書院)·용강서원(龍岡書院)·창주서원(滄洲書院)·흥암서원(興巖書院)·성천서원(星川書院) 등에도 제향되었다.
저서로 『어록해(語錄解)』·『동춘당집(同春堂集)』이 있으며, 글씨로는 부산의 충렬사비문(忠烈祠碑文), 남양의 윤계순절비문(尹啓殉節碑文)이 있다.