La novela, escrita en dos partes, comienza con la declaración de que la primera parte corresponde a una «Reimpresión de las memorias del doctor John H. Watson, antiguo miembro del cuerpo médico del ejército».
La historia comienza en 1878, cuando el Dr. John Watson se encuentra con un viejo amigo, Stamford. Watson se vio obligado a retirarse por una herida de guerra y, al recuperarse, fue víctima del tifus. A partir de ese momento comienza a buscar un lugar para vivir, porque no puede seguir con ese estilo de vida. Stamford revela que un conocido suyo, Sherlock Holmes, está buscando a alguien para compartir el alquiler en un piso en la calle Baker, en el 221 B. Así terminan conociéndose Sherlock y el doctor Watson; y al principio el doctor Watson tiene una mala impresión sobre Sherlock Holmes ya que le molesta mucho "la manera tan engreída en la que habla". Pero pasa poco tiempo para que el doctor Watson se dé cuenta de que su compañero no es un detective aficionado presumido, sino un verdadero genio de la deducción.
Un día les llega un mensaje de Scotland Yard sobre un reciente asesinato. Holmes y Watson se proponen investigarlo. Hay sangre en la habitación, pero no hay heridas en el cuerpo. También descubren, a través de los documentos que se encuentran en el cadáver, que se hallaba en Londres con un amigo, Joseph Stangerson. En la pared, escrito con sangre, está la palabra «Rache» que, afirma Holmes, significa 'venganza' en alemán. Deduce que la víctima murió envenenada, y describe cómo cree que era el asesino: de metro ochenta de altura, con los pies pequeños para su estatura, de tez rubicunda, con botas de punta cuadrada.
La segunda parte de la novela tiene como trasfondo la historia de los orígenes de la Iglesia mormona que se enlazan con una historia de amor. Tras una serie de marchas y contramarchas, Holmes logra dar con el asesino y resolver el crimen.
