Изначально Caroline был запущен как дочерняя компания лейбла Virgin Records (период с 1973 по 1976 годы). Он специализировался на прогрессив-роке и джазе, которым нехватало коммерческого продвижения.
Первым релизом лейбла стал альбом Outside the Dream Syndicate Тони Конрада и Faust в 1973 году. Логотипом лейбла была выбрана фото-вариация логотипа двойняшек Virgin, его дизайн сделал Роджер Дин.
В 1983 году название было повторно использовано Virgin в США в качестве импортера Caroline Distribution. Caroline Distribution был преобразован в Caroline Records в 1986 году. Caroline Records был поглощен Virgin Records после того, как Virgin был приобретен компанией EMI. Caroline Distribution был выведен в отдельную организацию и стал частью EMI Music Distribution.