Contrato no registrado Fianza

Hola inquilinos.

Os comento, alquilé con mi pareja un apartamento en la cuarta ciudad más grande de España. En una zona muy céntrica de la ciudad, es un bajo con poca luz, en principio estábamos algo preocupados por no encontrar. El casero lo percibió y nos hizo una supuesta rebaja de 30e total de 700 a 670 por un bajo sin luz de unos 50 m y olores a humedad. Total parece que nos la ha colado, ante nuestras ganas. Pero no es todo en en los pocos días que llevamos todos los días hemos visto una cucaracha. Lo cuál aparte de pagar el gran dineral, no estamos muy cómodos. Le entregue fianza y mes de octubre.

Voy a buscar algo en primer lugar más cómodo, y si es posible más económico para entrar el día 1 de noviembre.

Os planteo, no le va a sentar nada que nos vayamos. Como lo lo ha registrado voy a intentar por las buenas que me dé algo de la fianza la mitad y que se quede la otra mitad etc Quiero algo... sé que yo le dí la palabra pero nos lo coló el bajo.
Puesto que no es legal y no registrado ¿ Qué puedo hacer? ¿ Qué pasos me aconsejáis ?
Gracias.

Si no hay contrato de por medio intenta ir por las buenas como dices para llegar a un acuerdo. Si no accede, plantea la idea de comentar en hacienda el asunto.