Estudió la carrera de Derecho en la Universidad Nacional, y obtuvo el título de abogado en 1907. Fue discípulo de Justo Sierra y formó parte del Ateneo de la Juventud que por sus ideales de renovación ideológica y política lo enfrentó con el entonces presidente el Gral. Porfirio Díaz y con el mismo Justo Sierra.
En 1909 se unió a la campaña de Francisco I. Madero y ante la derrota de este ante Porfirio Díaz, se da por iniciada la Revolución Mexicana. Algunos historiadores le atribuyen a Vasconcelos la frase de “Sufragio efectivo, no reelección”, el cual mantiene vigencia hoy en día.
Cuando termina la Revolución Mexicana, asume la Rectoría de la Universidad Nacional de 1920 a 1921. Como rector propuso y fue aceptado el famoso lema que identifica a la hoy Universidad Nacional Autónoma de México, Por mi raza hablará el espíritu.
De 1921 a 1924, fue Secretario de Educación del Gobierno Federal y formalizó la estructura de esta secretaría en tres áreas: Escolar, Bellas Artes y de Bibliotecas y Archivos. Asimismo, en su gestión se publicaron los clásicos de la literatura universal e invitó a trabajar a los educadores Gabriela Mistral y Pedro Henríquez Ureña. Las expresiones culturales de nuestro país recibieron apoyos importantes en su gestión.
En abril de 1943 ingresa al Colegio de México como miembro fundador y en 1953 fue elegido miembro de número de la Academia de la Lengua.
José Vasconcelos falleció el 30 de junio de 1959.