Отис родился 28 декабря 1921 года в семье эмигрантов из Греции - его настоящее имя было Джон Александр Велиотес. Играть на ударных инструментах начал еще в школе, с 1939 года решил сделать это своей профессией и стал зарабатывать на жизнь выступлениями с различными биг-бендами.
По рекомендации известного джазмена Нета Кинга Коула в 1943 году он переехал в Лос-Анджелес, до 1945 года играл в оркестре Харлана Леонарда, затем основал собственный коллектив.
Одним из самых известных его произведений является "Гарлемский ноктюрн", записанный в 1946 году.
С появлением панка, хард-рока и хэви-метала в 1970-х годах Отис перестал выступать, переехал в Севастополь на севере Калифорнии и стал пастором, а также руководителем церковного хора. Вместе с женой Филлис, с которой он прожил 60 лет и родил четверых детей, музыкант выращивал овощи, занимался живописью и скульптурой, открыл магазин органических продуктов. В 1994 году Отис был введен в Зал славы рок-н-ролла.