贯云石的伯父忽失海涯、父亲贯只哥都托庇祖荫，先后在南方担任军政要职；而贯云石幼年，一直生活在大都，受着良好而又特殊的教育。贯云石的母亲廉氏是精通汉学的维族名儒廉希闵的女儿。她的一位叔父廉希宪曾任宰相，被世祖称为 廉孟子 ；另一位叔父廉希贡则是著名的书法家。贯云石自幼就常随母亲住在廉家的别墅 廉园 里修文习武。尤其是园内有两万多卷藏书，使贯云石从小就受到了丰富的汉民族文化的熏陶与严格训练，既有 善骑射、工马槊 的维吾尔气质，又能 折节读书，目五行下 ，为他以后用汉文写作打下了扎实的基础。

　　元成宗大德十年（1306），年方二十的贯云石承袭父爵，出任两淮万户达鲁花赤（这是一个拥有实际兵权的三品要职）。不久，又出镇永州。这位血气方刚、文武双全的青年军官，管辖着十一万户百姓，统率着七千将士。他 在军气候分明，赏罚必信 、 御军极严猛，行伍肃然 ；公务之暇，则写诗作曲，投壶雅歌。他要凭着自己的才能建功立业，又愿意 自适，不为形势禁格 ，然而这在当时那样的社会里，简直是不可能的。在苦闷与矛盾中，他终于作出了将官职军权让给弟弟忽都海涯的决定。

　　贯云石让爵后， 与文士徜徉佳山水处 ， 倡和终日，浩然忘却 ，真是： 弃微名去来心快哉，一笑白云外。知音三五人，痛饮何妨碍，醉袍袖舞嫌天地窄。 〔清江引〕

　　当时，元代的散曲创作正处于由草创时期向黄金时代过渡的阶段。贯云石开始以通脱豪爽的风格闯入了散曲阵地，犹如天马入苑，在元代诗坛上引起了强烈反响。1308年，贯云石回到了文人荟萃的元大都。