Pionero de la aviación australiano. Nacido el 18 de octubre de 1898 en Melbourne, Ulm empezó su vida laboral como empleado de un corredor de bolsa. Al estallar la I Guerra Mundial utilizó un nombre falso para que no se descubriera que era menor de edad, se enroló en las Fuerzas Imperiales Australianas y sirvió en Gallípoli. Resultó herido en combate y devuelto a Australia.
Después de la guerra y de regreso en Australia, Ulm entró en contacto con la aviación y en 1927, junto con Charles Kingsford Smith, realizó un vuelo récord alrededor de Australia en 10 días y 5 horas. En 1928 completaron su éxito con el primer vuelo a través del Pacífico: en un Fokker trimotor, el Southern Cross, partieron de California (EEUU) el 31 de mayo y llegaron a Brisbane (Australia) el 9 de junio, después de volar durante 83 horas y 38 minutos. Aquel mismo año los dos hicieron el primer vuelo a través del mar de Tasmania, desde Sydney hasta Christchurch. A finales de 1929 crearon una empresa de servicios aéreos para pasajeros y carga, pero al cabo de dos años la depresión les obligó a cerrarla.
En 1933 Ulm estableció una nueva marca de vuelo entre Inglaterra y Australia con 6 días y 18 horas, y al año siguiente llevó el primer correo oficial de Australia a Nueva Zelanda y de Australia a Nueva Guinea. Aquel mismo año y con el objetivo de establecer un servicio en el Pacífico, compró un avión con un tanque de combustible de gran duración y lo bautizó Stella Australis. El 3 de octubre, Ulm despegó con el Stella Australis de Oakland, California, rumbo a Hawai, pero jamás llegó. Nunca se encontró su rastro.