El contenido de la novela se basa en numerosos registros vivenciales escritos por Bolaño durante años, desde su época en México, D. F. durante la década de 1970, cuando fundó junto a otros jóvenes poetas el movimiento infrarrealista.[10]
Al menos en 1996, el escritor ya tenía una idea bastante clara de la novela, como se evidencia en su postulación en noviembre a una beca Guggenheim (postulación que fue rechazada el 2 de mayo de 1997, mediante una carta de Peter Kardon, director del Latin American Program, argumentando los limitados fondos con los que la fundación contaba para ese año).[11] Además de una breve nota biográfica, su currículum literario, una carta de recomendación de su editor Jorge Herralde y positivas reseñas de su anterior novela Estrella distante, por parte de Silvia Meucci, Joaquín Marco, Ignacio Echevarría y Luis Alonso Girgado, Bolaño definió un proyecto de trabajo contemplado entre julio de 1997 y julio de 1998 para escribir una novela titulada «Los detectives salvajes», que tendría una extensión aproximada de entre 400 y 500 páginas. El autor también incluyó un primer argumento de la obra, muy semejante a la versión final, así como una estructura preliminar, parecida a la definitiva, donde, sin embargo, entre algunas otras pequeñas diferencias, el segundo capítulo se llamaría «Esquema de Polifemo».[11]
La tercera parte de la novela, ambientada en el desierto de Sonora, donde Bolaño nunca estuvo, fue escrita con la ayuda de un mapa del atlas del estado de Sonora, publicado por el padre del amigo del escritor, el poeta chileno Bruno Montané (representado como Felipe Müller en la novela).[12]
