选择砂轮时，主要根据被磨工件材料的性质和热处理方法来选择。选择磨料粒度时主要是根据加工精度、表面粗糙度和磨削生产中的要求来选择，选择砂轮硬度的主要依据是被磨工件的材料，磨削方式和性质等。而且必须根据工件材料的性质，加工余量的大小，砂轮和工件的接触面积大小等来选择砂轮组织，对于结合剂，主要是根据工件材料的性质，磨削方法，加工表面质量要求来选择，而砂轮的形状和尺寸主要是根据磨床类型、加工方法及工件形状尺寸来决定。
砂轮选用的正确与否对轧辊磨削质量很重要，它涉及磨料的粒度、材质、间隙尺寸、硬度、粘结剂。要得到一个良好的磨削量，磨削时间和砂轮脱落之间的关系，可依据以下原则：
1）轧辊表面越硬，砂轮相对越软；
2）如砂轮脱落太快，说明硬度低，对应措施有：增加砂轮转速、增加滑架速度、降低轧辊转速。如果这些措施不起作用，则表明该砂轮选用不合适；
3）如砂轮有间隙堵塞、变光、轧辊表面有烧伤，则砂轮硬度过高。