Согласно «Истории джамби», слово «малаец» происходит от названия реки Мелайю, протекающей рядом с рекой Батанг Хари, или ныне Муара Джамби, в провинции Джамби на Суматре. Основатель Малакки, Парамешвара, был принцем Палембанга, принадлежавшего народу «малайю». И Цзин (635—713) указывает в своем дневнике, что народ по имени «ма-ла-ю» тогда уже существовал. Согласно археологическим исследованиям в Джамби, там было найдено много древних артефактов и архитектуры Малайи. Слово «малаец» попало в английский и голландский языки через португальский в форме «малайо», и произведено было от туземного «мелайю». Согласно популярной теории, оно значит «беглецы» или «переселенцы» ввиду большой подвижности этого народа.
В 1775 году докторская диссертация антрополога Иоганна Фридриха Блуменбаха выделяет четыре расы по цвету кожи; кавказская (белая), эфиопская (чёрная), американская (красная), монголоидная (жёлтая). В 1795 году он ввел ещё одно понятие: малайская раса, как подвид монголоидной. Он охарактеризовал её как «коричневую». Термин этот он относил к жителям Марианских, Филиппинских, Молуккских островов, Сунда, Таити и других островов Тихого океана. Начиная с Блуменбаха, многие антропологи придерживаются той же классификации.
Термин «малайцы» воспринимают многие филиппинцы, относя его к коренному населению страны, а также к народам соседних стран, Индонезии и Малайзии. Американский антрополог Х. Отли Байер предположил, что филиппинцы произошли от малайцев, мигрировавших из Индонезии и Малайзии. Эта идея была воспринята филиппинскими историками и введена в школьную программу. Однако ряд антропологов считает, что наоборот, малайцы мигрировали на юг с Филиппин в Индонезию и Малайзию (Питер Белвуд, Роберт Блуст, Малком Росс, Эндрью Поули, Лоренс Рейд).
В широком смысле термин «малайцы» используется для всех народов, населяющих Малайский архипелаг. Это ачех, минангкабау, батаки, мандайлинги, живущие на Суматре, яванцы и сунда на Яве, банджары, ибаны адазаны и меланау на Борнео, буги и тораджи на Сулавеси, этнические группы на Филиппинах, такие как тагалы, илоканы, ифугао на о. Лусон, висайя на центральных Филиппинах, магинданао, таусуг и баджау на Минданао, народы архипелага Сулу и Восточного Тимора. В узком смысле это имя принадлежит народу, который мигрировал с востока Суматры на Малайский полуостровов или архипелаг Риау, их называют «малайцы Риау». В узком смысле зона расселения малайцев — Малайзия и Индонезия.
В Малайзии малайцами считаются те, чьи предки — малайцы, кто говорит по-малайски, исповедует ислам и принадлежит к малайской культуре. Другие группы, классифицирующиеся, как малайцы, живущие вне Малайского архипелага, это — тямы (в Камбодже и Вьетнаме), угсулы, живущие на о. Хайнань. Потомки малайцев живут сегодня и на Шри-Ланке, и в Южной Африке, в Австралии и на Мадагаскаре.