Erlend i Eirik urodzili się obaj w 1975 roku, a poznali się w wieku 11 lat. Gdy mieli 16 lat założyli z dwoma innymi przyjaciółmi zespół Skog (las). Zespół rozpadł się po nagraniu pierwszej płyty. Wówczas Øye i Bøe założyli duet Kings of Convenience.
Latem 1999 pojawili się na kilku europejskich festiwalach muzycznych, w 2000 roku ukazał się ich debiut, a w 2001 wydali album "Quiet Is the New Loud". Od niego nazwę wzięła grupa artystów, która chciała promować spokojną muzykę z bardziej subtelnymi przesłaniami. Jeszcze tego samego roku ukazał się album Versus z remiksami autorstwa m.in. Four Teta czy Ladytron. Na kolejną płytę fani zespołu czekali kolejne trzy lata, podczas których Erlend Øye pracował w Berlinie nad własnym materiałem. Ostatecznie w 2004 ukazał się nowy album duetu "Riot on an Empty Street".
Kolejne lata doprowadziły do spekulacji, że zespół zawiesił swoją działalność, ponieważ po wydaniu drugiego albumu muzycy ponownie zajęli się swoimi projektami solowymi. W czerwcu 2009 roku zespół Kings of Convenience potwierdził jednak, że pracuje nad trzecim albumem. "Declaration of Dependence" ukazał się 2 października 2009 roku. Płytę promowały single Mrs. Cold oraz Boat behind.
W 2015 roku zespół powrócił na szlak koncertowy promując książkę Ørjana Nillssona traktującej o nagrywaniu płyty "Quiet Is The New Loud".
Rok 2016 przyniósł kilka koncertów w niewielkich salach pod nazwą The Unrecorded Record Tour, gdzie zespół grał materiał złożony wyłącznie z nowych utworów napisanych z myślą o kolejnej płycie.
