Nhiều tài liệu chỉ ra rằng, Halloumi xuất phát từ bộ lạc Beduin trên Địa Trung Hải, do tập quán sinh sống và truyền thống chăn dắt các đàn dê và cừu lấy sữa (ngày nay có thể thay thế bằng sữa bò) với hàm lượng dinh dưỡng và chất béo cao, họ sử dụng một quy trình đặc biệt, ngâm muối để bảo quản lâu hơn, tạo thành một sản phẩm thường dùng được yêu thích và lan tỏa khắp Địa Trung Hải.
Những dòng miêu tả đầu tiên về Halloumi phải trở về khoảng thời gian năm 700 sau công nguyên, khi một nhà thơ Hy Lạp mô tả về một người đàn ông trở nên khỏe mạnh sau khi dùng Halloumi. Ở Ý, tổng trấn thành Venice, ông Dogis Leonardo Dona (1536 – 1612), trong hành trình của mình đến đảo Síp, đã được nếm một loại phô mai chưa từng xuất hiện trước đấy ở đâu và gây ấn tượng mạnh đến nỗi ông phải ghi ngay vào báo cáo hành trình của mình với tên gọi là “Calumi”, tên gọi ngày nay vẫn dùng thay cho Halloumi ở Ý. Sau đấy, có thể tìm thấy Halloumi trong bản báo cáo của nhà du hành Elias de Pesaro vào năm 1563, ông đã dùng thử, và hỏi ngay chủ nhà cách thức chế biến để ghi chú một cách kỹ lưỡng trong lịch sử hành trình của mình.