Jak głoszą kroniki szkolne, założenie szkoły przypada na rok 1863 a więc ponad 150 lat temu! Powstała ona jeszcze w okresie zaboru austriackiego, pełna jej nazwa brzmiała wówczas: III Szkoła Ludowa Czteroklasowa w Krakowie. Tak, tak! – czteroklasowa! Wówczas, kiedy brak umiejętności czytania i pisania był zjawiskiem powszechnym, ukończenie czterech klas było już pewnym awansem społecznym. Pierwsze pomieszczenie szkoła znalazła w tzw. Szarej Kamienicy w Rynku Głównym. Jednak lokal ten okazał się nieodpowiedni pod względem pedagogicznym jak i sanitarnym.
280 uczniów od września 1864 roku rozpoczęło naukę przy ul. Św. Jana. Po ośmiu latach władze namiestnicze uznały, że szkoła posiada za dużo ubikacji. Przeniesiono ją więc w roku 1872 do budynku przy ul. Gołębiej, lecz tylko na 3 lata i w roku 1875 do kamienicy na ul. Św. Krzyża 20. Nowy lokal obejmował cztery duże sale i mały pokoik na kancelarię. Na skutek reorganizacji następuje zmiana nazwy na: III Szkoła Czteroklasowa Pospolita.
W 1882 roku nową siedzibą szkoły jest gmach poszpitalny św. Ducha. Po raz siódmy szkoła zmienia swoją siedzibę w 1892 roku. Nowy rok szkolny rozpoczyna się w barokowym budynku w „Ogrodzie Angielskim” przy ul. Lubicz. Szkoła posiada 6 klas i kancelarię dzięki czemu uruchomiono dwa oddziały klas I chłopców i jeden dziewcząt. W sumie ogólna liczba uczniów wzrosła do 380.
W dniu 7 V 1896 nadano szkole nową nazwę: Szkoła Pospolita. W 1903 roku szkoła powiększa się jeszcze o jeden oddział klasowy. Z braku miejsca wynajęto przy ul. Topolowej nr 22 jedną obszerną izbę. Na koniec 3 X 1904 roku szkoła wprowadza się już na stałe do budynków: przy ul. Lubomirskiego (dziewięć klas chłopców) oraz przy ul. Topolowej (jedenaście klas dziewcząt). Dnia 20 X 1904 roku odbyło się uroczyste poświęcenie obu budynków.
Wybuch I wojny światowej spowodował, że cały budynek przy ul. Lubomirskiego zajęło wojsko a szkołę przeniesiono na ul. Topolową. Lecz też nie na długo. Kiedy budynek na Topolowej wojsko również zarekwirowało, nauka w szkole odbywała się w różnych wynajętych pomieszczeniach. Dopiero po 13 miesiącach w dniu 25 X 1915 roku szkołę otwarto ponownie dla młodzieży.
W 1922 roku w wyniku reorganizacji szkolnictwa przestała istnieć szkoła wydziałowa, a na jej miejsce powstała „siedmioklasowa szkoła powszechna”. W 1927 roku w wyniku dalszych zmian szkoła otrzymuje nową nazwę: III Szkoła Powszechna 8 – Klasowa Męska im. Św. Mikołaja, a w roku 1938 jej nazwa brzmi: Publiczna Szkoła Powszechna Stopnia III – go nr 3 w Krakowie.
W 1939 roku wybucha wojna. Budynek zajmuje wojsko. Po wyzwoleniu szkoła wprowadza się do budynku przy ul. Lubomirskiego. Od dnia 1 IX 1971 roku szkoła mieści się po dzień dzisiejszy w budynku przy ul. Topolowej nr 22. Dnia 1 września 1962 roku szkoła jako odrębna instytucja otrzymała imię nowego patrona: Andrzeja Frycza Modrzewskiego.
Obecna, pełna nazwa szkoły brzmi:
Publiczna Szkoła Podstawowa nr 3 im. Andrzeja Frycza Modrzewskiego w Krakowie.