Rayuela comienza con las instrucciones del autor respecto de las diferentes posibilidades de lectura que ofrece la novela. Una opción es la lectura secuencial de los cincuenta y seis capítulos que conforman las dos primeras partes de la novela, dejando de lado "sin remordimientos", en palabras del propio Cortázar, lo que sigue. La otra opción es comenzar por el capítulo 73 y luego seguir el orden que se va proponiendo al final de cada capítulo, que también figura en el Tablero de dirección propuesto por el autor en la primera página del libro.
La historia transcurre en la década del 50. Horacio Oliveira, un hombre argentino de unos cuarenta años, vive en París muy modestamente, con el dinero que cada tanto le envían desde Argentina unos parientes. Su pasatiempo favorito es vagar sin rumbo por la ciudad, pasar tiempo en los cafés parisinos y mantener discusiones intelectuales con su grupo de amigos. Horacio ha llegado a París siguiendo el ejemplo de algunos compatriotas, que fueron a la capital francesa para la crianza de sus sentimientos, como ellos mismos afirman.
Inicialmente Oliveira también va a París para estudiar, aunque luego no lo hace. Allí conoce a la Maga, una mujer uruguaya que fue a París con el objetivo de convertirse en cantante de lieder y que tiene un hijo, Rocamadour, a quien deja al cuidado de una nodriza porque siente que no puede hacerse cargo. Oliveira y la Maga mantienen una relación tan intensa e idealizada como traumática. Para ahorrar un poco de dinero, Horacio y la Maga deciden irse a vivir juntos. Por momentos, a Oliveira le molesta el poco bagaje cultural e intelectual de la Maga. Así y todo, reconoce que ella es natural y espontánea, e incluso en algún momento admite que le gustaría ver el mundo a través de los ojos de ella.
Oliveira y la Maga pertenecen a una suerte de comunidad intelectual llamada “El Club de la Serpiente”. Los miembros de este Club son Etienne, Ossip Gregorovius, Ronald, Babs, Perico, Wong y Guy Monod; varios de estos integrantes son artistas, como es el caso de Etienne, que es artista plástico, o Ronald, que es pianista. Durante las reuniones del Club de la Serpiente, que suelen ser en la casa de Ronald y Babs, los miembros del Club fuman, beben vodka, escuchan discos de jazz y música clásica, y discuten sobre diversas cuestiones ligadas a la literatura, varias de ellas surgidas a partir del análisis de las notas del escritor fetiche del Club: Morelli. Cabe mencionar que casi todas las reflexiones de Morelli representan una crítica hacia las formas tradicionales de literatura y un deseo de renovación, fundamentalmente a partir del lenguaje literario. Durante estas reuniones, la Maga tiende a sentirse disminuida, ya que no se siente al mismo nivel intelectual que el resto y, al mismo tiempo, nadie hace demasiado esfuerzo por integrarla.
Por otro lado, Oliveira tiene una amante, Pola. La Maga sabe de ella y crea una muñeca vudú para hacerle daño. Cuando se entera de que Pola tiene cáncer de mama, se siente culpable.
Luego, en el momento en que Rocamadour se enferma, la Maga se ve forzada a tenerlo con ella en su casa para cuidarlo. A Horacio le fastidia sobremanera la situación y se va. La Maga cree que no va a volver, pero Oliveira regresa a la noche. Allí descubre que la Maga está reunida con Gregorovius. Los tres se quedan charlando y Horacio no tarda en descubrir que Rocamadour está muerto. No obstante, en vez de avisarle a la madre, se lo informa a los distintos miembros del Club que van llegando. La Maga es prácticamente la última en enterarse de que su hijo murió. Frente a esta situación, Horacio se va del departamento sin ni siquiera dirigirle la palabra a la Maga. Este hecho será determinante tanto en el quiebre de la relación entre ellos como en la posición del resto de los miembros del Club respecto de Horacio.
A los pocos días, Gregorovius le informa a Oliveira que la Maga se ha ido, y que nadie sabe dónde está. En ese momento, Oliveira parece comprender que, en realidad, amaba a la Maga; que ahora que se ha ido, ha perdido su núcleo vital y que está verdaderamente solo.
Por otro lado, Oliveira y Etienne van a visitar al hospital a un anciano que tuvo un accidente de tránsito, y este resulta ser el mismísimo Morelli. El viejo escritor les pide que vayan a su casa a compilar un libro y llevárselo a su editor. Oliveira y Etienne deciden realizar la reunión del Club de la Serpiente en la casa de Morelli. Una vez allí, los miembros del Club le dejan claro a Oliveira que están completamente en desacuerdo con la actitud que tuvo hacia la Maga, lo que motiva que Oliveira decida irse del Club.
Oliveira se sienta a pensar debajo de un puente a orillas del Sena y se encuentra con Emmanuele, la clochard (vagabunda) que ya había visto algunas veces con la Maga. Se quedan charlando un buen rato hasta que ella le practica sexo oral y la policía los detiene. En este punto, Oliveira decide volver a Buenos Aires.
Horacio regresa a su Buenos Aires natal y allí se reencuentra con su amigo de la juventud, Traveler. Él está casado con Talita, una farmacéutica, amante del cine y de la literatura. Los tres mantienen largas discusiones sobre distintos escritores y cineastas. Oliveira se muda a una pieza, justo enfrente de la de los Traveler, con su novia Gekrepten. Traveler le consigue trabajo, primero en el circo donde trabajan con Talita y luego en la clínica psiquiátrica que el dueño del circo, el señor Ferraguto, ha comprado.
Talita, Traveler y Oliveira comienzan a trabajar en la clínica realizando diferentes tareas. Oliveira, por su parte, no deja de pensar en la Maga, hasta el punto de confundir a Talita con ella en más de una oportunidad. Una noche, en la morgue de la clínica psiquiátrica, Oliveira besa a Talita, justamente, porque creyó ver a la Maga en ella. Este hecho desencadenará la locura de Horacio.
Oliveira se encierra en una sala y la llena de trampas para cuando vaya Traveler a vengarse por ese beso que Horacio le dio a su mujer. Mientras lo espera, fuma balanceándose en la ventana, tirando los cigarrillos a la rayuela que está pintada en el patio de la clínica. Llega Traveler y, luego de caer en algunas de las trampas de Oliveira, le pide que se tranquilice y que desista de lo que está haciendo. Le implora que trate de dormir y le aclara que, si no se baja de la ventana, el señor Ferraguto los echará a todos. Oliveira no quiere saber nada con bajarse de la ventana y se sigue balanceando peligrosamente ante la atenta mirada de Talita, el señor Ferraguto, su esposa y algunos enfermeros e internos de la clínica, que lo observan desde el patio.
El final de la novela queda abierto: quizás Horacio se inclinó definitivamente hacia el vacío y murió; quizás se tiró, pero sobrevivió; o quizás acabó internado en el psiquiátrico a raíz de ese intento de suicidio que finalmente no llevó a cabo. Cabe mencionar que ni siquiera el propio Cortázar conoce la resolución de su novela, como él mismo lo afirmó en varias oportunidades.
