收集他们在一起生活的证据，对方可能涉嫌重婚罪，有可能要负刑事责任。离婚时也可以要求对方精神赔偿，

收集证据，起诉对方重婚或者离婚时证明有婚外情。