还需要双方到婚姻登记部门去办理离婚手续

协议离婚需要拿离婚协议到民政部门办理离婚手续

这种情况，你只能起诉离婚。对方因刑事犯罪服刑的，法院会判决离婚的。你可以要求分割共同财产，由你抚养孩子，可以从男方共同财产分割的份额中扣除孩子 的抚养费。
如果你同意对方家属抚养孩子的，你应支付抚养费。