一、因你们没有到民政局办理结婚登记，所以你们还不属于夫妻关系，不受法律保护；
二、你要离开他无须他同意，自行离开即可；
三、你可以放弃小孩的抚养权，但你有义务支付小孩的抚养费，抚养费为你月收入的20-30%左右。

可以自行解除。不要孩子，对方有权要求你支付抚养费。