根据中国法律，如果一个人的直系亲属曾经被判刑，那么这个人的政治审查将是不合格的。但是，如果这个人的直系亲属已经去世，那么这个人的政治审查将不再受到过去犯罪记录的影响。因此，如果您的爷爷在几十年前被判过刑，但是现在已经去世，那么您的公安政审将不再受到这个因素的影响。但是，具体是否需要开具无犯罪记录证明，还需要根据您所在地区的具体规定来判断。