Кустарник семейства розовых до 0,8-1 м высоты, ветви дугообразные, несколько наклонные, молодые побеги вначале зеленые, опушенные, затем коричнево-серые; двух-трехлетние — буровато-серые. Листья айвы японской широко обратнояйцевидные, 3—5 см длины, по краям городчато-зубчатые, сверху темно-зеленые, блестящие (отчего айва напоминает вечнозеленое растение), снизу светлее. Цветки айвы японской сравнительно крупные — 3-5 см в диаметре, оранжево-красные, расположены почти но всей длине побега. Первые цветки появляются на ветвях, расположенных у самой поверхности земли, затем цветение переходит в верхний ярус. Цветение довольно продолжительное (до 3 недель) и обильное — на одном побеге образуется до 50—60 цветков.
Плоды относительно крупные (около 3,5—4 (6) см в диаметре), яблоковидной, грушевидной, реже реповидной формы, ребристые. Созревают в конце сентября — начале октября. Вес одного плода 20—30 (50) г. С одного куста собирают 35—45 плодов, что составляет примерно 2 кг. При оптимальной агротехнике плодоносящий куст айвы японской дает до 5 кг плодов.
