แม้ว่าโรงเรียนสวนกุหลาบวิทยาลัย จะมีต้นเค้าร่างเดิมสืบเนื่องมาจาก พระราชปณิธานของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 5 ในการก่อตั้งโรงเรียนพระตำหนักสวนกุหลาบในพระบรมมหาราชวัง จนได้ชื่อว่าเป็นโรงเรียนหลวงแห่งแรกของไทย แต่สถานศึกษาแห่งนี้รวมถึงการศึกษาไทยทั้งระบบ คงไม่สามารถดำรงสถานะเป็น "รากแก้วแห่งความเจริญของประเทศ" ตามกระแสพระราชดำรัสได้ หากขาดบุคคลสำคัญที่มีแนวความคิดก้าวหน้าในการวางรากฐาน และลงมือปฏิบัติเช่นนี้

เจ้าพระยาพระเสด็จสุเรนทราธิบดี หรือหม่อมราชวงศ์ เปีย มาลากุล เป็นนักเรียนประจำของโรงเรียนพระตำหนักสวนกุหลาบ มีผลการเรียนดีเลิศ ซึ่งสอบได้ประโยคที่ 2 ในจุลศักราช 1248 หรือ พ.ศ.2429 และได้รับความไว้วางพระทัยจากพระบาทสมเด็จพระจุลจอมเกล้าฯ ให้ไปเป็นพระอภิบาลพระบาทสมเด็จพระมงกุฎเกล้าฯ เมื่อทรงพระเยาว์ ขณะทรงได้รับการศึกษาที่ประเทศอังกฤษ และได้เป็นผู้ดูแลพระโอรสและนักเรียน ไทยในยุโรป โดยดำรงพระยศพระยาวิสุทธสุริยศักดิ์ เอกอัครราชทูตพิเศษไทยประจำอังกฤษและยุโรป

ครั้นเมื่อคราวเสด็จประพาสยุโรป ในช่วงปี 2440 ทรงพบว่า นักเรียนไทยที่ส่งมาเรียนยังต่างประเทศส่วนใหญ่ใช้เวลานานมากกว่าจะสำเร็จ ทำให้สิ้นเปลืองพระราชทรัพย์เป็นอันมาก อีกทั้งยังก่อให้เกิดปัญหาขาดแคลนกำลังคน

พระยาวิสุทธสุริยศักดิ์ ได้กล่าวถึงสาเหตุที่นักเรียนไทยเรียนไม่จบ ใช้เวลาเรียนนานเกินไป ไม่ประสบผลสำเร็จในวิชาที่เรียนว่าเป็นเพราะนักเรียนไม่มีพื้นฐานความรู้ที่ดีพอ อีกทั้งยังมีประพฤติกรรมที่ไม่เหมาะสม ทำให้เกิดความสูญเปล่าทางการศึกษา พร้อมกับระบุว่า "ส่งโดยไม่เลือกตามความรู้หรือคุณความสามารถเพียงใด สักแต่ว่าจับส่งมา เหมือนกับส่งท่อนไม้มาทั้งดุ้น.. อย่างนี้เมื่อได้โกลนเข้าแล้วมาปะไม้ท่อนใดเป็นตาเป็นโพรงพรุนใช้ไม่ได้ ไม้ท่อนนั้นก็อยู่เสียเวลาเสียแรงแลเสียเงินเปล่า.. ต้องส่งกลับมาเสีย เปล่าๆ เป็นอันมาก.."

ความข้อนี้ แม้จะเป็นเรื่องราวที่พระพุทธเจ้าหลวงทรงตระหนักอยู่ก่อนแล้ว แต่การพูดถึงปัญหาที่เกิดขึ้นอย่างตรงไปตรงมาเช่นนี้ สะท้อนให้เห็นถึงความคิดที่ก้าวหน้าของพระยาวิสุทธสุริยศักดิ์ ได้ในระดับหนึ่ง เพราะนักเรียนที่เดินทางไปเรียนต่างประเทศเหล่านี้ ล้วนดำรงสถานะเป็นพระบรมวงศานุวงศ์ ทั้งพระองค์เจ้า หม่อมเจ้า และหม่อมราชวงศ์ทั้งสิ้น

ปัญหาและข้อกังวลใจดังกล่าว ส่งผลให้มีพระราชดำรัสให้ พระยาวิสุทธสุริยศักดิ์ อัครราชทูตไทยประจำอังกฤษ และพระยาสุริยานุวัตร (เกิด บุนนาค) อัครราชทูตไทยประจำฝรั่งเศส ทำการสืบสวนแบบแผนการจัดการศึกษาในประเทศทั้ง 2 เพื่อเรียบเรียงขึ้นกราบบังคมทูล ซึ่งจากการจัดการศึกษาของพระยาวิสุทธสุริยศักดิ์ กระทรวงธรรมการ ได้นำมาพิจารณาและร่างเป็น "โครงแผนการศึกษาในกรุงสยาม" เมื่อวันที่ 19 มิถุนายน 2441

ในโครงแผนการศึกษาในกรุงสยาม ดังกล่าว ได้ระบุถึงโรงเรียนพระตำหนักสวนกุหลาบไว้ในเนื้อความหมวดที่ 4 ความสรุปได้ว่า โรงเรียนพระตำหนักสวนกุหลาบฝ่ายไทย จัดเป็นโรงเรียนไทยเบื้องกลางมีการจัดแบ่งเป็นชั้นต่ำและชั้นสูง โดยชั้นต่ำ หมายถึง ประถมศึกษา แบ่งเป็นประโยค 1 และประโยค 2 มี 6 ชั้น ส่วนชั้นสูง หมายถึง ระดับมัธยมศึกษามีกำหนด 4 ปี โดยทั้งสองส่วนจะต้องเรียนวิชาภูมิศาสตร์ วิทยาศาสตร์ คณิตศาสตร์ พงศาวดาร เรียงความ และวาดเขียน

ขณะเดียวกัน สำหรับโรงเรียนพระตำหนักสวนกุหลาบฝ่ายอังกฤษ ก็จัดเป็นโรงเรียนอังกฤษเบื้องกลาง เช่นเดียวกับโรงเรียนพระตำหนักสวนกุหลาบฝ่ายไทย โดยชั้นเบื้องต้นกำหนดเรียน 4 ปี เน้นที่การแปลไทยเป็นอังกฤษ และการแปลอังกฤษเป็นไทย ส่วนชั้นเบื้องกลางกำหนดเรียน 4 ปี โดยนอกจากจะเรียนภาษาอังกฤษแล้ว ยังรวมคณิตศาสตร์ และวิทยาศาสตร์ และเลือกเรียนภาษาบาลี ฝรั่งเศส เยอรมัน และละติน อย่างน้อยอีก 1 ภาษาด้วย

แม้ว่า พระยาวิสุทธสุริยศักดิ์ จะเป็นผู้สำเร็จการศึกษาจากสถาบันภายในประเทศ หรือกล่าวอีกนัยหนึ่งเป็นผลผลิตของสังคมไทย ในช่วงก่อนที่จะมีการเปิดประเทศรับเอาวิทยาการจากตะวันตกอย่างเอิกเกริกในเวลาต่อมา แต่ด้วยเหตุที่ได้เดินทางไปเป็นพระอภิบาล และผู้ดูแลนักเรียนไทยในอังกฤษอยู่หลายปี ทำให้ความคิดของพระยาวิสุทธสุริยศักดิ์ ก้าวหน้ากว่านักการศึกษาและระบบราชการไทยในขณะนั้นอยู่ไม่น้อย ภาพถ่ายของพระยาวิสุทธสุริยศักดิ์ ในท่วงทำนองแปลกตา ชักชวนผู้คนให้มาเรียนหนังสือ พร้อมกับข้อความ "It is always safe to learn" บ่งบอกนัยของยุคสมัยดังกล่าวได้เป็นอย่างดี

โดยเฉพาะอย่างยิ่ง หากพิจารณาจากการที่โรงเรียนซึ่งในสมัยนั้นส่วนใหญ่ดำเนินการโดยคณะผู้สอนศาสนา ถูกระบุว่าเป็นภัย และนักเรียนที่เรียนในโรงเรียนเหล่านี้มักถูกระบุว่าเป็นพวกนอกรีต จากการเข้ารีตของฝรั่ง ทำให้การขยายการศึกษาไปสู่ประชาชนทั่วไปทำได้อย่างยากลำบากไม่น้อย

ยิ่งไปกว่านั้น ด้วยการวางแผนระยะยาวของพระยาวิสุทธสุริยศักดิ์ ซึ่งได้ทำหนังสือขึ้นกราบบังคมทูลพระบาทสมเด็จพระจุลจอมเกล้าฯ ถึงโครงการที่จะสร้างสถานศึกษาในระดับมหาวิทยาลัยเช่นที่ต่างประเทศมี เมื่อวันที่ 10 เมษายน ร.ศ.128 (พ.ศ.2453) ความว่า

"ตามปกติโรงเรียนจะเป็นได้ก็แต่สำหรับสอนวิชาสามัญชั้นต้นๆ แต่โรงเรียนใดที่จะจัดการศึกษาให้ลึกซึ้งสูงขึ้นไป โรงเรียนเช่นนั้นต้องมีรากเหง้า กล่าวคือ ต้องให้เป็นที่ประชุมการเล่าเรียนใหญ่อย่างที่ต่างประเทศ เรียกว่า คอเลช หรืออคาเดมี หรือโปลิเตกนิก หรือยิมนาเซียม หรือยูนิเวอสิตี ... โรงเรียนเช่นนี้ในเมืองไทยยังไม่มี แท้จริงถึงเวลาแล้วที่จะดำเนินการ กล่าวคือเด็กที่เล่าเรียนวิชาสามัญศึกษา นับแต่ชั้นมูล ประถม และมัธยม ตลอดขึ้นมาก็มีจำนวนมากแล้ว ควรที่จะรีบจัดการรวบยอดข้างเบื้องสูงติดต่อให้ทันทีทีเดียว ถ้าไม่รีบจัดก็จะล่าช้าหนักไป..."

นอกจากนี้ พระยาวิสุทธสุริยศักดิ์ ยังระบุด้วยว่า "ข้อสำคัญที่จะจัดการเรื่องนี้ ข้อที่หนึ่งอันควรพิเคราะห์ก่อนมีอยู่ว่าจะตั้งหลักลงที่ไหน ข้อที่สอง จึงจะถึงวิธีที่จะจัดการต่างๆ ข้าพระพุทธเจ้าก็ได้ค้นคว้ามานานจนบัดนี้ยังไม่เห็นว่าจะมีที่ไหนเหมาะกว่าวัดราชบูรณะเลย ควรจะมุ่งหมายจับเอาที่นี้ไว้ให้อยู่สักแห่งหนึ่ง จึงขอพระราชทานให้บริเวณวัดราชบูรณะฟากข้างนี้เป็นบริเวณโรงเรียน ซึ่งจะตั้งเป็นรากเหง้าให้เป็นที่ชุมนุมการศึกษา อันจะเรียกว่าวิทยาลัยหรืออะไรก็ตาม ซึ่งตรงกับความหมายดังกราบบังคมทูลมาข้างต้นนั้นต่อไปภายหน้า"

เนื้อความที่พระยาวิสุทธสุริยศักดิ์ ได้กราบบังคมทูลนี้เป็นที่โปรดมาก และทรงแนะนำให้มีการก่อสร้างตึกอย่างดีขึ้นแทนห้องแถวที่ทางวัดราชบูรณะจะสร้างขึ้น อันเป็นจุดเริ่มต้นของการเกิด "อาคารสวนกุหลาบ" หรือ "ตึกยาว" สัญลักษณ์ของสวนกุหลาบฯ ในเวลาต่อมา และเป็นการสิ้นสุดภาวะกระจัดกระจาย และเร่ร่อนหาถิ่นพำนักถาวรของโรงเรียนพระตำหนักสวนกุหลาบ ที่ดำเนินมาเนิ่นนาน โดยในที่สุดก็สามารถกลับมารวมกันอีกครั้งที่วัดราชบูรณะ ทั้งนี้ดังปรากฏในพระราชหัตถเลขาถึงพระยาวิสุทธสุริยศักดิ์ เมื่อวันที่ 12 เมษายน ร.ศ.128 (พ.ศ. 2453) ความว่า

"...การที่จะตั้งหลักการศึกษาชั้นสูง คิดจะถือโอกาสที่วัดราชบูรณะจะทำตึกแถวให้เช่า...ทราบแล้ว ความคิดนี้ดีมาก แต่ทำไมจะต้องไปยืนอยู่แบบตึกแถวเช่า...เมื่อคิดจะเอาเป็นที่โรงเรียน ให้เป็นหลักฐานถาวรเช่นนี้ ควรจะคิดตัวอย่างเสียใหม่ ให้แปลกกับตึกเช่าสามัญ ให้งดงามเป็นสง่าบ้านเมือง"

พร้อมกันนั้นพระองค์ได้มอบหมายให้กรมหลวงนเรศวรฤทธิ์ เสนาบดีกระทรวงโยธาธิการเป็นผู้ดำเนินการ โดยเริ่มลงมือก่อสร้าง ตอนที่ 1 เมื่อวันที่ 8 ตุลาคม 2453 โดยระหว่างการก่อสร้างพระบาทสมเด็จพระจุลจอมเกล้าฯ ได้เสด็จทอดพระเนตรการก่อสร้างด้วย แต่มิทันที่อาคารแห่งนี้จะสำเร็จเสร็จสิ้น ก็เสด็จสู่สวรรคาลัยในวันที่ 23 ตุลาคม 2453 เสียก่อน

เมื่อพระบาทสมเด็จพระมงกุฎเกล้าฯ ขึ้นเสวยราชสมบัติ พระองค์สนพระทัยในเรื่องการพัฒนาการศึกษา ซึ่งถือเป็นการสานต่อพระราชปณิธานของสมเด็จพระราชบิดา พระองค์ทรงแต่งตั้งพระยาวิสุทธสุริยศักดิ์ ซึ่งเป็นพระอภิบาลของพระองค์ เมื่อครั้งที่ทรงพระเยาว์ขึ้นเป็น เจ้าพระยาพระเสด็จสุเรนทราธิบดี ทำหน้าที่เป็นปลัดทูลฉลอง เพื่อสนองพระราชดำริที่จะสร้างโรงเรียนขึ้น แทนการสร้างวัดดังที่นิยมในอดีตด้วย

นอกจากนี้ พระองค์ได้โปรดเกล้าฯ แต่งตั้งให้เจ้าพระยา พระเสด็จสุเรนทราธิบดี ซึ่งเคยเป็นผู้วางแผนการศึกษาของชาติ และนำขึ้นกราบบังคมทูลให้ พระบาทสมเด็จพระจุลจอมเกล้าทอดพระเนตรเป็นที่พอพระราชหฤทัยมาแล้ว ให้มีโอกาสได้บริหารการศึกษา ในตำแหน่งเสนาบดีกระทรวงธรรมการ แทนเจ้าพระยาวิชิตวงศ์วุฒิไกร เมื่อวันที่ 6 เมษายน 2455 ซึ่งห้วงเวลาหลังจากนั้นนับเป็นช่วงเวลาที่วงการศึกษาไทยมีพัฒนาการมากขึ้นอีกช่วงหนึ่ง และมีโรงเรียนสำคัญๆ เกิดขึ้นอีกมากมาย

การที่เจ้าพระยาพระเสด็จสุเรนทราธิบดี ซึ่งดำรงตำแหน่งเสนาบดีกระทรวงธรรมการ ได้วางแผนไว้อย่างละเอียด และมีความชัดเจนในการจัดการศึกษาให้ทันสมัยกับความต้องการของประเทศในสมัยนั้น ทำให้ในปี 2468 กระทรวงศึกษาธิการได้จัด สร้าง "ศาลาพระเสด็จ" เพื่อเป็นอนุสรณ์ในคุณูปการของเจ้าพระยาพระเสด็จสุเรนทราธิบดี ขึ้นในพื้นที่ของโรงเรียนสวนกุหลาบฯ ซึ่งแม้ปัจจุบัน ศาลาพระเสด็จหลังเดิมจะถูกรื้อถอนไปแล้ว แต่อาคารหลังใหม่ที่สร้างขึ้นบนพื้นที่เดิมก็ยังใช้ชื่อ ศาลาพระเสด็จ สืบมาจนถึงทุกวันนี้

ในวาระครบ 120 ปี แห่งการสถาปนาโรงเรียนสวน กุหลาบฯ เมื่อวันที่ 8 มีนาคม 2545 ได้มีการเชิดชูเกียรติเจ้าพระยา พระเสด็จสุเรนทราธิบดี ในฐานะที่เป็น 1 ใน 18 ศิษย์เก่าเกียรติยศด้วย

นอกจากนี้ เจ้าพระยาพระเสด็จสุเรนทราธิบดี ซึ่งเป็นบิดาของ ม.ล.ปิ่น มาลากุล ยังได้ให้ ม.ล.ปิ่น มาลากุล เข้ารับการศึกษาที่โรงเรียนสวนกุหลาบฯ แห่งนี้ด้วย ก่อนที่ ม.ล. ปิ่น จะจำเริญรอยตามผู้เป็นพ่อด้วยการเป็นผู้มีบทบาทสำคัญในแวดวงการศึกษาอีกท่านหนึ่ง และดำรงตำแหน่งเป็นรัฐมนตรีว่าการกระทรวง ศึกษาธิการในช่วงปี 2500-2512 อีกหลายสมัย