没办结婚证理论上可以交往。

你好！
  你可以与这个女孩结婚，她的前男友出狱后，无权干涉你们的婚姻。因为他们的同居关系不受法律保护。
   如果她不想要孩子的抚养权，就由男方的父母抚养，但男方的父母在抚养过程中有权要求生母承担一半的生活费。

对方没有进行结婚，是可以依法和你结婚的。以前的小孩女方有法律上的抚养责任。