Nació el 11 de noviembre de 1926, en Jerez, de padre cubano y madre de origen francés. Estudió en el Colegio de los Marianistas de Jerez. Cuando estalló la Guerra Civil española era adolescente, por lo que pasó temporadas en la Sierra de Cádiz y en Sanlúcar de Barrameda.
En su juventud, entabló relación con los miembros del grupo de la revista gaditana Platero. En 1949 se fue a Sevilla para estudiar Filosofía y Letras y allí conoció al grupo cordobés de la revista Cántico. En 1950 obtuvo el Premio de Poesía Platero por su poema Mendigo. Prosiguió sus estudios de Letras en Madrid y trabajó en la I Bienal Hispanoamericana de Arte. En 1952, publicó su primer libro de poesía, Las adivinaciones, que fue accésit del premio Adonais. Ejerció como secretario y luego subdirector de la revista Papeles de Son Armadans, y pasó medio año en París. En 1959, publicó Las horas muertas con el que consiguió el premio Boscán y el de la Crítica. En febrero de 1959 asistió en Collioure (Francia) al XX aniversario de la muerte de Antonio Machado, con Blas de Otero, José Agustín Goytisolo, Ángel González, José Ángel Valente, Jaime Gil de Biedma, Alfonso Costafreda y Carlos Barral.
Se trasladó a Bogotá, donde enseñó Literatura Española y Humanidades en la Universidad Nacional de Colombia. Allí colaboró con la revista Mito, que le editó, en 1961, El papel del coro, una antología poética. En 1962 publicó su primera novela, Dos días de setiembre, el cual recibió el premio Biblioteca Breve de la editorial Seix Barral. Regresó a España en 1963 y se ocupó de diversos trabajos editoriales, y fue detenido por motivos políticos. En 1965 pasó una temporada en Cuba.
En 1969 se publicó su volumen de poesía completa, con el título de Vivir para contarlo, y el Archivo del cante flamenco, álbum de seis discos y estudio preliminar, que obtuvo el Premio Nacional del Disco. Empezó a trabajar en el Seminario de Lexicografía de la Real Academia Española, donde permaneció hasta 1975. Desde 1973 fue director literario de Ediciones Júcar. Publicó su novela Ágata ojo de gato, distinguida con el Premio Barral (al que renunció) y con el Premio de la Crítica. De 1974 a 1978 ejerció como profesor de Literatura Española Contemporánea en el Centro de Estudios Hispánicos del Bryn Mawr College. En 1975, publicó el ensayo Luces y sombras del flamenco. Intervino en la constitución de la Junta Democrática, por lo que fue procesado ante el Tribunal de Orden Público. Viajó nuevamente a Cuba. Fue nombrado presidente del PEN Club español y el Centro Dramático Nacional estrenó en Madrid su versión de Abre el ojo, de Rojas Zorrilla.
En los años sucesivos continuó recibiendo galardones como el Ibn-al-Jatib, el Premio Plaza y Janés, el Premio Andalucía de las Letras.
En 2004, Seix Barral publicó su obra poética completa y fue nombrado Doctor Honoris Causa por la Universidad de Cádiz, ese mismo año recibió el Premio Reina Sofía de Poesía Iberoamericana, y en los años siguientes el Premio Nacional de las Letras y el Premio Nacional de Poesía.
El 9 de mayo de 2021, falleció en Madrid, a los 94 años.