1911年フィンランド・ヴィープリ（現ロシア領）生まれ。
1932年に応用芸術学校（Central School of Applied Art ）で家具製作のための技術を学ぶ。卒業後ヘルシンキにあるTE-MAデパート（TE-MA department store）にウインドウディスプレイとインテリアを手がけるデザイナーとして勤務。同時にフリーのデザイナーとしてイラストやテキスタイルのデザインなども手がける。

第二次世界大戦での敗北の年である1945年、フィンランドの陶磁器メーカー「アラビア」のデザイナーに就任。
敗戦に伴い質素な生活が国民全体に強いられ、生活物資が乏しいなかで、いかに清潔に美しく暮らすかを、インダストリアルデザイナーの立場から模索したのがカイ・フランクである。

そのために過剰な装飾ではなく、狭い住環境のなかの収納にも便利なように、生活するための機能に根ざした形態と、戦後復興のなかで新しく建てられるモダンアパートでの生活に見合う、あたらしいテーブルウェアの開発を手がけた。

1946年よりガラスメーカー「イッタラ」にもデザインを提供する。
1950年から1961年には、その手腕をかわれアラビアのデザインディレクターに抜擢される。同年フィンランドのイッタラ資本のガラスメーカー「ヌータヤルヴィ」でガラス製品のデザインを手がけるようになる。ヌータヤルヴィとの協同は1976年までつづいた。
1953年には後に現在までイッタラの定番テーブルウェアとなるティーマ（英語で“テーマ”）の前身となるキルタシリーズを発表。1948年に開発されたキルタは、その後の北欧のテーブルウェアのデザインを変えたといわれ、無装飾のシンプルなテーブルウェアの先駆けをつくった。

1950年代は戦後北欧デザインがアメリカやイタリア、そして日本において広く知られた時代である。
カイ・フランクはスウェーデンのデザイナーであるスティグ・リンドベリや陶芸家のベルント・フリーベリ、デンマークのフィン・ユール、カイ・ボイエセン、ハンス・Ｊ・ウエグナーらとともにこの時代の北欧デザインを牽引した。

1958年にはヌータヤルヴィより、現在イッタラの定番ガラスウェアであるカルティオをデザインする。同年来日。匿名でのデザインにこだわったカイ・フランクは日本の民藝運動にも通じていた。来日のさいは日本各地をまわり、日本人の生活のなかから生まれた道具としての民藝品に、深い感銘を受けたといわれている。

1981年に1975年に廃盤になったキルタの改良版ティーマを発表。食洗機や電子レンジに対応するなど、現在の生活習慣に見合った改良を施すことで、現在まで定番テーブルウェアとして愛されつづけている。1983年にロイヤル・カレッジ・オブ・アートより博士号を授与される。
1989年ギリシャを旅行中に永眠。

1992年にはニューヨークのMOMAで回顧展が開催され、ふたたび脚光を浴びるようになる。
現在フィンランドでは「カイ・フランク賞」が設けられ、カイ・フランクが目指した日用品のよりよい刷新を永続的にかなえるために、現代に活動する若いデザイナーたちの活躍のための原動力となっている。