От постройки XIII в. сохранился украшенный скульптурами северный портал, застроенный в XV в. Портал был покрыт вимпергом, сломанным в XV в. при сооружении притвора. Форма портала и его скульптурный декор ясно подтверждают датировку первой церкви — конец XIII в.: портал имеет стрельчатую форму с очень слабым надломом, а скульптуры носят явную печать стиля, переходного от романского к готическому. В середине XIV в. к южной стене башни была пристроена капелла Матфия. Церковь св. Олая была сооружена в XIII в., но полностью перестроена в XV — начале XVI вв., и о ней речь пойдет ниже. Свой нынешний облик собор получил в результате неоднократных перестроек. В источниках он упоминается начиная с 1233 г. Однако от этого первого храма не осталось ни следа.

Возможно, что это была деревянная постройка, как, например, первый собор в Турку, в Финляндии, а может быть, как соборы в Риге и в Тарту. Каменный храм был сооружен по-видимому, в конце XIII в. От этой постройки сохранились части западной, северной и южной стен, а также хор. Он перекрыт куполообразным (домикальным) сводом и снабжен нервюрами в виде валиков. Купол сложен из концентрических рядов кирпича. Нервюры, по всей видимости, чисто декоративные.

Около 1335—1340 гг. к хору пристроили многогранную апсиду. Ее свод снабжен замковым камнем, украшенным скульптурным декором в виде реалистически трактованных растительных мотивов. Такие же мотивы имеются в церквах Карья и Пёйде; они датируются тоже 1335—1340 гг. Продольная часть собора была перестроена в XV в.