청나라는 베트남에 대한 종주권을 상실하게 되는 제2차 사이공 조약에 대해 즉시 거부하는 입장을 표하기 시작했다. 한편 프랑스는 당시 1870년부터 1871년까지 프로이센과의 전쟁에서 패한 이후 점차 국력을 회복하여 베트남에 대해 적극적으로  공세를 감행하고자 했다. 이는 프로이센과의 전쟁에서 패배한 자존심을 다시 세우기 위해서 동남아시아로 진출하는 것이 최대의 과제로 여기게 되었는데 이에 1881년에 프랑스 의회는 240만 프랑을 베트남을 정복하는 군비로 사용하도록 승인하게 된다. 1881년 말, 홍 강을 거슬러 올라가고 있던 프랑스 인이 흑기군에 저지되는 사건이 발생했다. 프랑스령 코친차이나(베트남 남부) 총독 르 밀 드 비렐(Le mil de Bilel) 제독은 1874년 제2차 사이공 조약 위반을 문책하기 위해 프랑스 교지 지나 해군함대 사령관 앙리 리비에르(Henri Riviere) 해군 대령을 하노이에 파견하였다. 

청불전쟁, 프랑스 측 자료, 출처 : Алексей Зён의 페이스북

1882년 초, 하노이에 도착한 앙리 리비에르(H. L. Rivière)는 응우옌 정부와의 교섭하는 도중 프랑스의 조건들을 제대로 받아들이지 않아 프랑스에 무익하다고 판단한 그는 즉시 군사행동을 개시하게 된다. 1882년 초에 프랑스 교지 지나 해군함대 사령관 앙리 리비에르(H. L. Rivière)가 4월에 하노이를 점령했다. 그리고 다음 해 1883년에는 흑기군에 대한 공격을 시작하였다. 응우옌 왕조 사덕제(嗣德帝)의 원군 요청을 받은 청나라는 통킹 지방에 출병하였고, 흑기군도 떠이선(西山)을 거점으로서 프랑스 군과 대치했다. 당시 러시아에 있던 청나라 외교관 증기택(曾紀澤)은 프랑스의 야심을 간파하고 총리아문(總理衙門)에 베트남 문제의 해결방안을 제시하였다. 1882년에 청나라의 이홍장(李鴻章)은 프랑스 공사 보우리(Bou-ree)와 천진에서 담판을 시작했다. 이홍장과 보우리는 가(假) 조약 3개 조에 합의하였다. 

청나라는 흑기군을 운남, 귀주성으로 철수시킬 것과 프랑스도 베트남을 침략, 점거하지 않으며, 베트남 국왕의 위신을 추락시키지 않을 것, 그리고 보승(保勝)을 개항하여 청나라와 프랑스가 여기에서 교류와 무역을 감행하며, 또한 이곳을 청나라의 영토와 같은 비율로 세금을 징수하며, 청나라와 프랑스는 경계를 설정하여 베트남 북부의 자치를 보호한다고 하였다. 이어 베트남의 대표를 북경에 장기적으로 파견하도록 할 것과 베트남 인을 프랑스에 파견하여 청국 공사관의 수행원으로 임명할 것, 베트남에게 청나라의 명령에 따르도록 하여 홍하 등의 개방을 건의하였다. 그러나 이홍장은 오히려 홍하의 개방은 호랑이를 끌어들이는 것과 같다고 하여 이를 받아들이지 않았다. 청나라가 베트남 문제로 프랑스와 대립하게 되자, 유곤일(劉坤一)은 베트남에게 유영복의 흑기군을 초무하여 프랑스의 세력을 막도록 건의하였다. 또한 운귀총독(雲貴總督) 유장우(劉長佑)도 흑기군을 이용하여 프랑스를 격퇴하자고 건의하였다. 장지동(張之洞)도 청나라의 국방을 번속으로 인정한 베트남으로 군세를 확대하여야 된다고 적극적인 주전론을 폈다. 

그러나 이홍장은 프랑스와 앞서 설명한 담판으로 베트남 문제를 해결하려고 하였다. 그리하여 1882년에 이홍장은 프랑스 공사 프레데리크 부레(Frédéric Bourée)와 천진에서 재 담판을 시작하여 추가적으로 가조약 3개의 조항에 합의했다. 청나라는 동남아시아의 모든 군대를 운남, 귀주 성으로 철군하고, 프랑스도 인도차이나 전 지역을 점거하지 않으며, 청나라의 지배 지역과 속국들의 위신을 추락시키지 않을 것이고 추가적으로 보승과 함께 하이퐁을 개항하여 청나라와 프랑스가 이 두 곳에서 무역하며, 또한 하이퐁을 영국에 할양된 홍콩과 같은 비율로 세금을 징수하고, 중국과 프랑스는 서로 경계를 설정하여 베트남 북부의 자치를 보호한다고 하였다. 그러나 천진 담판의 가조약이 체결되자 프랑스군은 철군하고 군대를 파견하여 베트남 북부의 변경을 순시하였는데, 이러한 담판 체결 사실을 몰랐던 흑기군은 이들과 전투를 벌여 프랑스 군을 격퇴했다. 청나라에서는 이를 양산대첩(陽山大捷)이라 부르고 있다. 

이러한 흑기군의 용맹성을 과신하고 있던 청나라 조정의 일부 인사들과 임오군란(壬午軍亂) 당시 조선에 대한 간섭이 성공된 것을 확신한 청류파(淸流波) 세력들은 이홍장의 천진 담판에 대하여 반발하기 시작했다. 한편 절대절명의 위기를 맞이한 응우옌 왕조에서는 1883년 7월 9일, 사덕제(嗣德帝)가 사망한다. 이어 7월 20일 공혜황제(恭惠皇帝)가 즉위하지만, 여자를 밝히는 성격이라는 이유로 응우옌 왕조의 실권을 장악하고 있던 완문상(阮文祥), 존실설(尊室說) 등의 신하들에 의해 불과 3일 후인 7월 23일 폐위되고 7월 30일에 협화황제(協和皇帝)가 옹립되었다. 응우옌 왕조 내부의 극심한 혼란을 이용하여 프랑스는 청나라와의 조약을 깨고 후에(Hue) 공략을 결정했다. 이러한 프랑스가 후에를 공격하게 된 계기는 천진 담판에 대한 불만 때문이었다. 이에 프랑스는 주일공사관인 아르튀르 트리쿠(Arthur Tricou)를 전권대표로 삼아 청나라와 다시 교섭하여 시간을 끌면서 군사 행동을 준비하였다. 당시 청나라도 이홍장이 모친상을 당하여 고향으로 갔기 때문에 교섭의 성과가 없었던 것으로 보인다. 

프랑스는 1883년 8월에 후에의 외항인 후안(Huan)을 공략하고 그대로 후에로 진격하자 응우옌 왕조는 저항하지 못하고 강화를 요청하게 된다. 1883년 9월에 프랑스는 응우옌 왕조의 강화 요청을 거부하고 후에를 함락시켰다. 프랑스는 베트남과 후에 조약(Hue Treaty)을 체결하였다. 이 조약의 내용은 베트남이 프랑스의 보호국이 되고 비엔투안 성(Bienthuan Provinces)을 프랑스에게 할양하며 안남(安南)은 응우옌 왕조에 의한 통치를 인정하였지만, 통킹에는 프랑스 영사관을 설치하고 공조하는 형식을 추진하게 된다. 한편 베트남 응우옌 왕조 내 권력투쟁이 치열하게 전개되고 있었다. 협하황제(協和皇帝) 즉위 후 완문상, 존실설의 두 명을 숙청하려 했지만, 반대로 두 사람에 의해 11월 29일에 독살되어 건복황제(建福帝)가 12월 2일에 옹립되었다. 1883년 12월에 흑기군이 반격하여 하노이를 탈환하고 프랑스의 앙리 리비에르는 전사했다. 패전 소식을 들은 프랑스 정부는 베트남 정벌군 파견을 결정하고, 응우옌 왕조와 프랑스의 관계는 더욱 악화되었다.

프랑스는 홍하의 양안에 군사 보급 기지를 설치하고 흑기군을 축출하기로 하였다. 이러한 소식이 청나라에 전해지자 청 조정의 주전파들은 베트남에 대한 군사 원조를 주장하였다. 그러나 공친왕과 이홍장은 프랑스에 대한 무력 사용을 반대하고 외교적인 방법으로 베트남 문제를 해결하려고 하여 “이홍장-트리쿠 회담”이 다시 시작되었다. 여기에서 북위 20도선을 경계로 하자는 이홍장의 주장과 북의 22도를 경계로 하자는 프랑스의 주장이 대립하여 회담은 결렬되고 결국, 프랑스는 무력으로 베트남 문제를 해결하고자 흑기군에 대하여 공격을 시작했다. 이어 프랑스는 1884년 4월에 프란시스 푸르니에(François-Ernest Fournier)를 청나라에 파견하여 이홍장과 담판하게 하였다. 그러한 결과, 청나라는 프랑스의 베트남 보호권을 승인하고 베트남에 주둔하고 있던 청나라 군을 변경으로 철수시키기로 하는 대신, 프랑스는 중국의 변경을 침범하지 않는다는 5개조로 된 청-불 간명조약(淸-佛 簡明條約)을 체결하였다. 

한편 프랑스는 1884년 6월에 베트남과 제2차 후에조약을 체결하여 베트남은 프랑스의 보호국임을 받아들이고, 프랑스는 통감을 베트남에 두기로 하였다. 본격적으로 프랑스의 베트남 지배가 시작되었다. 간명조약 체결 이후 철군 명령을 전해 받지 못한 베트남 주둔 청나라 군대와 홍하를 순시하려는 프랑스 군대 사이에 전투가 발생하게 되었는데, 이를 북려충돌(北藜衝突)이라 부른다. 이 때 청나라에서는 주전파 장지동을 다시 양광총독으로 임명하고 진보침(陳寶探)과 장패륜(張佩綸)을 광동과 복건으로 보내 군무를 처리하도록 하는 한편, 베트남에 있는 유영복으로 하여금 철군을 명령했다. 프랑스도 대대적인 청나라 공략계획을 수립하고 해군에게 대만의 기륭(基隆)을 공격하도록 하는 한편, 복건의 마미(馬尾)를 공격하여 청나라의 복건 함대를 격침시켰다. 이에 청나라는 지금까지의 타협 정책을 버리고 8월 6일에 정식으로 프랑스에게 선전 포고하였다. 우선 육로로 군대를 신속하게 베트남 방향으로 이동시키는 한편 연해의 해군에 대하여는 프랑스 군의 공격을 철저하게 방어하도록 지시하였다.

육로군의 전략은 주로 청나라와 베트남 사이의 국경과 베트남의 영토에서 진행되었다. 그러나 프랑스 군의 공격으로 1884년 2월에 변경의 요지인 진남관(鎭南館)이 함락되었다가 풍자재(馮子材)가 이끄는 청나라 군대의 공세로 겨우 수복하였다. 해전의 경우 전세가 청나라에게 유리하지 못했으나 프랑스에게도 결코 유리한 편은 아니었던 것으로 보인다. 당시 영국, 미국, 독일 등이 중재에 나섰는데, 특히 영국은 총세무사인 로버트 하트(Robert Hart)를 파견하였다. 로버트 하트는 영국정부로부터 전권을 위임 받고 청나라 해관의 영국 런던사무처 소속의 제임스 캠벨(James Dunean Campbell)을 1885년 4월에 프랑스 파리로 파견하여 청-불 간명조약이 유효하다는 전제 아래 프랑스와 정전협정을 체결하게 된다. 이로 인하여 청불전쟁은 종결되었으며, 1885년 6월에 이홍장과 프랑스 공사인 쥘 파트노트르(Jules Patenôtre) 사이에 천진에서 청-불 신약을 체결하였다. 이러한 신약의 내용은 청나라가 베트남을 프랑스의 보호국으로 인정하고, 청나라와 베트남의 변경 두 곳의 통상 장소를 정하기로 하는 한편, 프랑스 화물은 베트남과 광서성 변경에서 관세율을 감하기로 하고, 이후 청나라에서 철도를 건설할 때 프랑스와 협상하도록 하였다. 

전쟁배상금은 청나라가 프랑스에 지급하지 않았지만, 이 전쟁에서 청나라는 은 10억 냥 이상을 지출했고 2억 냥 가량의 빚을 지게 됨으로써 청나라에 피해가 가중된 전쟁이 되었다. 1885년 7월, 이러한 프랑스의 고압적 태도에 반발한 존실설(尊室說)은 쿠데타를 일으켜, 후에의 프랑스 주둔군 및 프랑스인들을 습격해 프랑스 세력을 제거하려 하였다. 그러나 프랑스 군은 즉각 반격을 시작해 궁성을 점거했다. 존실설은 함의제(咸宜帝)를 데리고 북방의 광평성(廣平城)으로 도피하여 프랑스 세력에 대항하기 위해 베트남 각지에 격문을 돌렸다. 프랑스는 함의제(咸宜帝)의 후에 귀환과 존실설의 체포에 상당한 현상금을 걸고 그들을 잡으려 하였지만, 산 속에서 게릴라전을 하는 두 사람을 체포하지 못하고 결국 프랑스는 1885년 9월에 함의제의 퇴위를 선언하고 동경제(同慶帝)를 옹립했다. 이후에도 프랑스에 대한 항쟁은 계속되었지만, 근대식 무기로 무장된 프랑스 군에게 번번이 패하게 된다. 이와 같이 1859년부터 1885년까지 프랑스는 무력을 통해 태국과 미얀마를 제외한 현재의 베트남, 캄보디아, 라오스가 포함된 인도차이나 반도를 식민지화하여 프랑스령 인도차이나 괴뢰정부를 건국했다. 

이로써 베트남 전역이 프랑스령 인도차이나에 포함되었다. 프랑스는 베트남 사회에 뚜렷한 정치적, 문화적 변화를 가져오게 된다. 근대 교육의 서구적인 체계가 도입되고 베트남 사회에 기독교가 전파되면서 불교와 유교로 양립되는 사회 전반에 서양 종교가 들어와 또 다른 문화적 한 축을 이루게 되었다.