可以要求房东退还押金和租金，房东房屋抵押不能开发票，属于不能达到贵司租赁房屋的合同目的。可以要求解除合同，返还押金和租金。但是如果贵司在租赁房屋时，未明确是公司租赁需要开发票，那就属于贵司在缔约时有过错，需要承担一定的责任。

虽然现实中出租人一般都不开发票（因为要缴税），但是从法律上讲出租人应开具房租发票。
房屋押金和部分租金已交，合同没交给出租方，如果房屋已经交付使用，即使你们公司不再合同上盖章签字也形成事实上的租赁关系了。
你们的纠纷关键在不开发票是否能够成为解除租赁的理由。如果是公司直接签订的合同，可以要求因此造成公司无法作为税前成本扣除的损失或者你们无法向公司报销房租的损失。可以考虑要求其承担损失进而交涉退还押金。

1，要看你们合同的约定。
2，具体可以先打电话与律师联系，帮你分析，维护你的合法权益。，