Nació en Las Anonas, cerca de San José, Costa Rica. Zeledón, el hijo de una familia distinguida, en que las dotes intelectuales y el amor por la educación eran caracteristicas peculiares. Su padre, don Manuel Zeledón, fué gobernador del distrito de San José por treinta años, y era un hombre de gran integridad. Desde su niñez, José estuvo interesado en aves, y empezó sus estudios como naturalista bajo la tutoría de Alexander von Frantzius, quién llegó a Costa Rica en 1854. De regreso a Alemania en 1868, el Dr. Frantzius trajo al Sr. Zeledón a Washington, D.C., donde conoció a Spencer Baird, instalandose como asistente sin sueldo en el Smithsonian Institution. En la institución tuvo la oportunidad de estudiar las colecciones de aves, e instruirse con una impresionante biblioteca de literatura ornitológica. Zeledón se quedó en la institución, estudiando con otros naturalistas, conociendo entre otros al Dr. Robert Ridgway, con quien empezó una amistad que duró toda su vida. En 1871 regresó a Costa Rica como parte de una expedición científica organizada por el Dr. William Gabb, para explorar la selva de Talamanca, donde Zeledón hizo una muy importante e inmensa colección de aves.

Frecuentemente Zeledón hizo intercambio de artefactos arqueológicos y especímenes biológicos de Costa Rica con el Museo Nacional del Smithsonian. Una de las primeras publicaciones de Zeledón, Catálogo de las Aves de Costa Rica fue publicada por el Smithsonian en 1885. Zeledón presentó en 1886, una magnífica colección de aves que comprendían 1500 ejemplares en la primera exposición de Costa Rica. En esta colección, Zeledón tuvo casi todas las especies Costaricenses, que en ese tiempo eran más de 700.

José Zeledón fue uno de los fundadores del Museo Nacional de Costa Rica, y uno de sus primero benefactores. La ornitología fue su interes principal, y muchos descubrimientos llevan su nombre. Entre estos un gran número de especímenes tipológicos que hoy se encuentran en las colecciones del Smithsonian Institution. Murió en Turín, Italia en 1923 a la edad de setenta-siete.