1929 yılında Küçükyalı köy sakinlerinden Muhsine Zeynep Hanım Küçükyalı'ya okul yaptırmak için 2000 lira bağışta bulundu. Okulun arsası köy sakinlerinden Erşet Bey tarafından bağışlanır. Bu arsanın üzerine Muhsine Zeynep Hanım tarafından bağışlanan para ile tek katlı, tek dershaneli bir okul yapılır. O tarihte Küçükyalı köyünde başka okul olmadığı için tüm köy çocukları bu okula devam eder.

1942-1943 yılında il bütçesinin katkısıyla okula ekler yapılır. Çevre çocukları da okula alınır. 1943-1944 Eğitim Öğretim yılında okul günün şartları gereği yatılı ve pansiyonlu hale getirilir. 222 sayılı kanun ile yatılı, pansiyon okula 17 Nisan 1947 tarih ile 12575 yönetmelikle son şekli verilir.

Arsanın müsait oluşu ve yeni binalar yapılmasıyla 1953 yılında İstanbul İli Korumaya Muhtaç Çocuklar Birliği tarafından kız çocukları için yetiştirme yurdu olarak açılır. 1953-1954 Eğitim Öğretim yılında kayıtlar başlar. 1985 yılında öğrenci azlığı nedeniyle koruma kararlı çocuklar Küçükyalı Çocuk Yuvasına aktarılır. Okul normal ilkokul haline dönüşür.

1987-1988 Eğitim Öğretim yılından itibaren binada Muhsine Zeynep Orta Okulu da hizmete girmiştir. 1990 yılından itibaren İlköğretim Okulu olarak eğitim öğretime devam etmektedir.

24 Ocak 2012 tarihinde depreme karşı  hazırlanan İSMEP Projesi çerçevesinde yıkılarak yerine modern ve güvenli bir şekilde yapılan okulumuz, okulun inşaat çalışmaları sırasında Ahmet Rasim İÖO'nda eğitimini sürdürdü. 06.02.2012 tarihinde yeni binasında  eğitim görmeye başladı. Depreme karşı dayanıklılığın yanı sıra iç mimarisi ile de öğrencilerin her türlü ihtiyacını karşılayacak şekilde tasarlanan binada okulun kendi öğrencilerinin yanı sıra kapatılan Fevzi Çakmak İÖO'nun öğrencileri ile  eğitimimiz başladı.

17 Haziran 2012 tarihinde de okulumuz Ortaokul olarak belirlendi ve ismi "Muhsine Zeynep Ortaokulu" olarak değiştirildi.

2013-2014 eğitim öğretim yılında Ahmet Rasim İlkokulu ve Kadir Has İlkokulu 4+4+4 sistemi nedeni ile ortaokul kısmı öğretmen ve öğrencileri ile bünyemize katılarak bölgenin en büyük ortaokulu olarak eğitim öğretime başlamıştır.