以1817年朱利安发表《关于比较教育的工作纲要和初步意见》为标志，比较教育已经走过了整整200年的历史，在漫长的历史发展中，比较教育形成了自己独特的研究视角和研究方法，学科的独立性不断增强。
“比较教育之父”朱利安在《关于比较教育的工作纲要和初步意见》中，并没有为比较教育这一概念下一个明确的定义，而只是指出了比较教育大致的研究范围。他从实用的角度出发，认为比较教育应该对欧洲各国当前的主要教育机构、教育制度、教育目标和教学方法等进行比较分析，吸取各国的经验，从而为教育改革提供改进的意见。
美国著名的比较教育学家康德尔在其《比较教育》一书中认为，“比较教育的研究是教育史研究的继续，它把教育史研究延伸到现在，以阐明教育和多种文化形式之间必然存在的密切联系”，这种教育历史研究是以各国现行的教育状况，而不是以理论为基础来比较各国教育制度的原理，而研究外国教育制度的目的就是要分析并且评价本国的教育制度，从而加深对本国教育制度背景和基础的理解。
英国比较教育学家汉斯在其《比较教育：教育的因素和传统研究》中认为，“用历史的观点分析研究这些因素，比较各种问题的解决办法，是比较教育的主要目的”。
日本比较教育学者冲原丰认为，“比较教育学是以整个教育领域为研究对象，把两个以上国家的教育，以现代化为中心进行比较研究，是一门包括外国教育学在内的学科，这种看法似乎比较恰当”。
苏联的比较教育学者索科洛娃等人在《比较教育学》中认为，“可以对马列主义比较教育学的对象下这样的定义：比较教育学是研究当前世界中教学和教育的理论和实践的共同的和个别的特点和发展趋势，并揭示他们的经济、社会政治和哲学基础，以及民族的特点”。
中国学者吴文倪、杨汉清在其主编的《比较教育学》一书中认为“比较教育学是以比较法为主要方法，研究当代世界各国教育的一般规律与特殊规律，解释教育发展的主要因素及其相互关系，探索未来教育的发展趋势的一门教育科学”。
1955年，联合国教科文组织教育研究所在汉堡召开国际会议，此次会议也就“比较教育”的定义进行了讨论，提出了很多不同的意见。由此可见，回答“比较教育”是什么并不是一个容易的问题，每个学者往往从不同的角度对这一问题进行理解。
但是，综合各家意见，我们认为，比较教育是以比较法为主要研究方法，以当代世界上不同国家、民族和地区以及国际社会的教育为研究对象，在分析比较的基础上，建构关于外国教育和国际教育的文化理解，探讨教育发展的规律和经验的教育研究领域。
