Pilies kalnas, juosiamas upių, buvo patogi vieta piliai statyti. Kaip rodo archeologiniai tyrimai, čia gyventa dar neolite. IX a. kalnas imtas tvirtinti medinėmis ir akmeninėmis užtvaromis, o XI – XIII a. čia jau stovėjo medinė pilis. Ankstyvoji pilies istorija glaudžiai susijusi su Vilniaus kūrimosi istorija. Valdant Lietuvos didžiajam kunigaikščiui Gediminui, Vilnius jau žinomas kaip Lietuvos Didžiosios Kunigaikštystės sostinė, o 1323 m. Gedimino sutartyje su Kryžiuočių ordinu pirmąkart paminėta ir Vilniaus pilis. Dažnai Aukštutinė pilis ir vadinama Gedimino pilimi. Valdant pirmiesiems Gediminaičių dinastijos valdovams, Vilniaus Aukštutinė pilis buvo reikšminga ne tik kaip politinis Lietuvos Didžiosios Kunigaikštystės centras, bet kartu su Žemutine ir Kreivąja pilimis sudarė sostinės gynybinį kompleksą, sėkmingai atlaikiusį XIV a. antroje pusėje suintensyvėjusį Kryžiuočių ordino puolimą. Gaisrui sunaikinus medinę pilį, XV a. pradžioje, valdant Lietuvos didžiajam kunigaikščiui Vytautui, pastatyta mūrinė gotikinė pilis, kurios liekanos išliko ligi šiol. Pilis buvo pailgo daugiakampio plano. Vakarinėje teritorijos smailumoje stūksojo galingas, nežymiai iš aptvaros išsikišęs aštuoniakampis bokštas. Šiaurinėje ir pietinėje pilies dalyje buvo dar du keturkampiai bokštai. Aukštutinė pilis turėjo rytinėje kiemo pusėje pastatytus gyvenamuosius rezidencinius rūmus, gynybinę sieną, jungusią vakarinį ir pietinį bokštus, kuri toliau ėjo link kunigaikščių rūmų. Apsukusi juos iš rytų, pietų ir šiaurės pusių, gynybinė siena vėl ėjo link vakarinio bokšto. Pilies rūmai labai primena ordino pilis, ypač posėdžių salės su kampine patalpa (krosnimi) ir 2 – 4 kolonomis viduje, ant kurių rėmėsi kryžminiai skliautai. Kalno ribose taip pat buvo ir Žemutinės pilies gynybinė siena su apvaliu bokštu papėdėje, šalia – keturkampis Žemutinės pilies bokštas (bajorų kalėjimas) ir atraminės kalno sienos. Pagrindinis įvažiavimas į pilį buvo šiauriniame kalno šlaite – nuo Arsenalo pusės. Mažesni įėjimai buvo gynybinėje sienoje iš šiaurinės ir pietinės vakarinio bokšto pusių. Ankstyviausias Aukštutinės pilies vaizdas išlikęs XVI a. vid. Brauno plane.