Pada awalnya, Zoo Johor dikenali sebagai Kebun Binatang yang menempatkan koleksi haiwan peliharaan Almarhum DYMM Sultan Ismail. Pada masa itu, kebun binatang ini menyimpan pelbagai haiwan seperti harimau, beruang pelbagai jenis, monyet, burung, rusa, dan lain-lain. Terletak di dalam kawasan Istana Besar, zoo ini bersambung dengan sebahagian daripada kebun bunga dan juga bersebelahan dengan Masjid Sultan Abu Bakar, Johor Bahru. 

Pembinaan Zoo Johor bermula pada tahun 1934. Pelbagai jenis binatang dari dalam dan luar negara diadakan di sini sebagai hadiah daripada zoo atau taman haiwan luar negara seperti London, Amerika Syarikat, Australia, Jepun, dan juga dari sahabat-sahabat Almarhum DYMM Sultan Ismail. Ini mencerminkan minat Almarhum DYMM Sultan Ismail dalam penjelajahan dan hubungan diplomatik dengan kerajaan di seluruh dunia. 

Pada 11 April 1962, pentadbiran Zoo Johor diambil alih oleh Kerajaan Johor untuk menjaga dan menguruskan zoo ini. Pada tahun yang sama, Zoo Johor dibuka kepada orang ramai dan sudahpun mempunyai 58 jenis binatang. Koleksi binatang baginda juga terkenal dengan kualiti yang terbaik di rantau Asia. 

Zoo Johor merupakan zoo tertua di Malaysia. Dengan keluasan 11.70 ekar, kini ia mempunyai lebih daripada 100 spesies binatang.