descendiente de un James Otis que emigró de Inglaterra a Nueva Inglaterra en 1631, el joven Otis creció en Vermont y, a los 19 años, se mudó a Troy, Nueva York, y más tarde a Brattleboro, Vermont, trabajando en varios trabajos. De 1838 a 1845, en Brattleboro, fabricó vagones y carruajes y luego trasladó a su familia a Albany, Nueva York, donde, mientras trabajaba como maestro mecánico en una fábrica de camas, inventó varias máquinas que ahorraban mano de obra. En 1851 estaba en Bergen, Nueva Jersey, De nuevo como maestro mecánico en una fábrica de camas.,
la empresa Bergen lo envió a Yonkers, Nueva York, en 1852 para operar una nueva fábrica e instalar su maquinaria. Allí diseñó e instaló lo que llamó el «polipasto de seguridad», el primer elevador equipado con un dispositivo de seguridad automático para evitar que se cayera si se rompía la cadena de elevación o la cuerda. Al año siguiente renunció a su trabajo y estableció una pequeña tienda de ascensores en Yonkers, vendiendo su primera máquina de ascensores el 20 de septiembre de 1853. Transportaba carga., Las órdenes fueron pocas hasta mayo de 1854 cuando, en el Palacio de cristal en la ciudad de Nueva York, demostró su ascensor montando la plataforma en el aire y ordenando el corte de la cuerda. El 23 de marzo de 1857, instaló el primer elevador de seguridad para el servicio de pasajeros en la tienda de E. V. haughwout & Co. en Nueva York. El 15 de enero de 1861, patentó una máquina de vapor controlada independientemente para uso en ascensores (instalada en 1862)., Esta invención sentó las bases para el negocio que sus dos hijos, Charles y Norton, llevaron a cabo después de su muerte como propietarios de lo que finalmente se convirtió en la Compañía de ascensores Otis.
Otis también ideó una serie de otros dispositivos mecánicos. En 1852 patentó algunos camiones de ferrocarril y frenos. En 1857 patentó un arado a vapor, y en 1858 patentó un horno de cocción.