协议或起诉离婚。
协议：双方就离婚、孩子抚养、财产与债务处理等问题达成一致意见后，到夫或妻户口所在地的民政局登记离婚。
起诉：向对方所在地法院起诉，需要提交身份证、结婚证、起诉状。

夫妻都不是不存在离婚。只是协商小孩的抚养问题。