爷爷去世后留下的遗产应当由他的配偶和子女共同继承，其中应当有属于父亲的份额，父亲死亡后，其遗产就包括了从爷爷那里继承来的遗产份额，父亲的遗产由父亲的配偶，父母，子女共同继承。继承份额可以由继承人协商决定，协商不成的，平均分配。