У 20-х роках IV століття на пагорбі у центрі Константинополя розгорнулося грандіозне будівництво. На ринковій площі з’явився величезний казан. Басилевс Костянтин Великий наказав створити у столиці імперії колосальне підземне водосховище, призначене для постачання палацових споруд та сотень тисяч мешканців міста. Хроніки передають, що тут працювало 7 тисяч будівельників. До стратегічного об’єкта було проведено багатокілометровий акведук, який подає воду з навколишніх гірських джерел. Частина цього аркового водопроводу, складеного з міцної римської цегли, і сьогодні перетинає вулиці у центрі сучасного Стамбула. Через 200 років, під час правління імператора Юстиніана I, Цистерна Базиліка була укріплена, розширена та трохи перебудована.
Грецький історик Прокопій Кесарійський, який жив у VI столітті, докладно описав константинопольську Цистерну у своєму трактаті «Про будинки», що сягнув нашого часу. Вже тоді ця споруда дивувала своїми масштабами та досконалістю інженерних технологій.
Як не дивно, після падіння Константинополя турецьким правителям Стамбула протягом кількох десятиліть нічого не було відомо про це величезне підземелля, хоча місцеві жителі навіть ловили там рибу, і нерідко викидали у провали сміття. Втім, вони гадали, що під вулицями міста лежить підземне озеро. Лише через два покоління, в середині XVI століття, Цистерну виявив мандрівник П’єр Жіль, який керувався старовинним описом Прокопія Кесарійського.
Відомо, що в період правління султанів Османа підземне водосховище кілька разів ремонтували. Масштабний ремонт було проведено у 1723 році, за вказівкою султана Ахмеда III. Ще одну реконструкцію здійснили за султана Абдулхаміда II, наприкінці XIX століття.
У середині 80-х років минулого століття міська влада Стамбула вирішила очистити Цистерну Базиліку. З підземелля було вилучено 50 тисяч тонн бруду та сміття, що збиралося століттями. Тут було знайдено артефакти, що поповнили стамбульські музеї, а також кілька скелетів людей, які стали жертвами страшних злочинів, які так і залишилися безкарними.
У травні 1987 року у стародавнє підземелля було відкрито доступ всім бажаючих. Тут було збудовано причали для човнів, на яких катали туристів.