1、公安机关的说法不对，对方已经涉嫌信用卡诈骗；
2、如果公安机关应当立案而不立案，你有权申请行政复议；
3、你还可以请求人民检察院进行立案监督，依据《刑事诉讼法》第87条规定：人民检察院认为公安机关对应当立案侦查的案件而不立案侦查的，或者被害人认为公安机关对应当立案侦查的案件而不立案侦查，向人民检察院提出的，人民检察院应当要求公安机关说明不立案的理由。人民检察院认为公安机关不立案理由不能成立的，应当通知公安机关立案，公安机关接到通知后应当立案。