灰尾兔的食物通常是一些草和灌木，一些生活在近人类区域的灰尾兔也会吃农作物，但通常来说这是一类坚强的兔子，在冬季及初春食物稀少的时候，依然可以靠啃食树皮度日。
灰尾兔栖息于海拔2100~4000米的高山地带，高山草原，高山草甸草原，河谷及河漫滩灌丛，亦可栖息植被生长比较茂盛的“荒漠、半荒漠绿洲”中，隐蔽条件要求较高，故在芨芨草丛、黑刺灌丛、河漫滩及河谷两岸阶地、灌丛生境中数量较多。仅出现于疏林的林缘。
一般无固定洞巢。即使有也仅仅是一个较浅陋的凹窝，作为临时休憩之用。也常利用旱獭废弃洞穴藏身。营白昼活动的生活方式，但以清晨及傍晚活动较为频繁。以草本植物及小灌木的嫩枝叶和树皮为食。早春则可扒掘草根为食。
