Первое стихотворение Козлова «К Светлане» было опубликовано в 1821 году. Увлечение литературой привело Козлова к близкому знакомству с А. С. Пушкиным, В. А. Жуковским, П. А. Вяземским и декабристами братьями Тургеневыми. Стихотворение Томаса Мура «Вечерний звон» (1827) в его переводе становится классикой русской народной песни; большую популярность получил также перевод стихотворения другого ирландца — Ч. Вольфа — «На погребение английского генерала сира Джона Мура» («Не бил барабан перед смутным полком…»). Его романтическая поэма «Чернец» (1825), написанная в форме лирической исповеди молодого монаха, пользуется восторженным приёмом у читетелей, её высоко оценивает А. С. Пушкин, и она оказала влияние на «Мцыри» М. Ю. Лермонтова и «Тризну» Т. Г. Шевченко. В 1827 по прозаическому подстрочнику П. А. Вяземского полностью перевёл «Крымские сонеты» Мицкевича.
