Zamek powstał między 1348 a 1353 rokiem, gdy miasto uzyskało prawa miejskie. Zamek składał się wówczas z jednego skrzydła po północno-wschodniej stronie czworokątnego dziedzińca. Zamek otoczony był pasem murów obronnych i fosą, a dojście do zamku prowadziło od strony Łyny poprzez zwodzony most. W XV wieku zbudowano południowo-zachodnie skrzydło. Wieżę z połowy XIV wieku, położoną w zachodnim narożniku dziedzińca, przebudowano w początku XVI wieku. Jednocześnie zamkowe mury obronne podwyższono do wysokości 12 m i uzupełniono drugim pasem niższych murów, wzmocnionych basztami.
Zamkowe mury częściowo połączono z murami miejskimi, przez co zamek stał się poniekąd potężnym bastionem wysuniętym poza miasto i broniącym do niego dostępu. Twierdza należała do kapituły warmińskiej która do 1454 roku podlegała wojskowej opiece zakonu krzyżackiego i z tego względu odegrała sporą rolę podczas wojen polsko-krzyżackich. W 1410 roku po bitwie pod Grunwaldem poddał się bez walki Polakom. W czasie wojny trzynastoletniej zamek przechodził z rąk do rąk. Krzyżacy zagrozili zamkowi i miastu jeszcze w 1521 roku, jednak obrona była tak skuteczna, że poprzestali po jednym, nieudanym szturmie. W latach 1516–1521, z krótką przerwą, administratorem komornictwa olsztyńskiego był Mikołaj Kopernik i to właśnie on przygotował obronę Olsztyna przed najazdem krzyżackim.

Z czasem oba skrzydła zamku utraciły znaczenie militarne a dla celów mieszkaniowych były niewygodne. W 1758 roku doprowadzono więc do zamku dojazd od strony miasta i z tej strony zbudowano skrzydło pałacowe, jednocześnie likwidując podgrodzie i część murów. W 1845 roku most nad fosą zastąpiono groblą łączącą zamek z miastem, fosę zaś osuszono. W latach 1901-1911 przeprowadzono gruntowny remont zamku. Zmieniono wówczas poziom podłóg w refektarzu, a w krużganku wprawiono futryny okienne i dostawiono neogotycką klatkę schodową. W 1921 roku w salach zamku umieszczono muzeum. Zamek także i dziś służy celom muzealnym. W 1945 roku stał się siedzibą Muzeum Mazurskiego, które dzisiaj nosi nazwę Muzeum Warmii i Mazur.