Иван Козловский родился 11 (24) марта 1900 года в селе Марьяновка (ныне Васильковского района, Киевской области, Украина) в крестьянской семье. С 7 лет пел в хоре Михайловского монастыря в Киеве, где был замечен духовным композитором А. А. Кошицем. Вскоре стал петь в хоре Троицкого народного дома в Киеве (театр Н. К. Садовского), позже — солист Большого академического хора. В 1917—1920 годах учился в Высшем музыкально-драматическом институте им. Н. Лысенко (ныне Киевский национальный университет театра, кино и телевидения имени И. К. Карпенко-Карого) (вокальный факультет, класс Е. А. Муравьёвой). Во время службы в РККА (1920—1923) в Полтаве участвовал в спектаклях Полтавского передвижного музыкально-драматического театра (с 1922). Спел в этом театре свою первую крупную партию — Фауста («Фауст» Ш. Гуно). В 1924 году — в труппе Русской государственной оперы в Харькове (ныне Харьковский театр оперы и балета имени Н. В. Лысенко). В 1925—1926 годах — солист Государственного оперного театра им. А. В. Луначарского в Свердловске (ныне Екатеринбургский театр оперы и балета). В 1926 году был приглашен в Большой театр (Москва). Дебютировал в роли Альфреда («Травиата» Дж. Верди), с первых лет службы в театре, исполняя главные теноровые партии, приобрел популярность и массу почитателей, в конце 1930-х становится одним из любимых певцов И. Сталина. В конце 30-х выступал также вместе с созданным в 1936 году Государственным джаз-оркестром СССР под управлением В. Н. Кнушевицкого. Осталось несколько записей исполнения певцом с джазом-оркестром специально написанных для него эстрадных и джазовых произведений (танго «Беседка», блюз «Утро и вечер»). В 1938 году создал Государственный ансамбль оперы СССР и стал художественным руководителем этого коллектива (1938—1941). Выступал как оперный режиссёр. Поставил ряд опер, исполнив в них главные партии («Вертер» Ж. Массне, «Паяцы» Р. Леонкавалло, «Орфей и Эвридика» К. Глюка, «Моцарт и Сальери» Н. А. Римского-Корсакова, «Катерина» Н. Н. Аркаса, «Джанни Скикки» Дж. Пуччини). В 1945 году гастролировал в Румынии и Чехословакии. В 1954 году, находясь на пике популярности, навсегда покинул Большой театр. Причины этого решения до сих пор до конца неизвестны. Певцу посвящены фильмы «Певец Иван Семёнович Козловский» (1960) и «Иван Семенович Козловский» (1978). В 1983 снялся (камео) в фильме «И жизнь, и слёзы, и любовь». Автор книги: «Музыка — радость и боль моя», Москва, 1992. И. С. Козловский умер 21 декабря 1993 года в Москве. Гражданская панихида прошла 24 декабря в Большом театре. Похоронен на Новодевичьем кладбище (участок № 10).