你好，建议你们之间先进行协商，协商不成，可以选择进行诉讼离婚

债务是婚姻存续期间的，要双方方承担，两个小孩可以按规定看给谁扶养。

可协议，双方就离婚、孩子抚养、财产与债务处理等问题达成一致意见后，到夫或妻户口所在地的民政局登记离婚。
不能或不想协议的，可起诉离婚。由法院在判离时一并处理财产与孩子抚养问题。

你好 可以协商离婚 协商不成的建议起诉离婚 如有疑问可以电话咨询！