梁毗字景和，安定乌氏人。

祖父梁越，西魏泾州、豫州、洛州三州刺史，合阝陽县公。

父亲梁茂，北周沧、兖二州刺史。

梁毗性格刚直，颇有学问。

北周武帝时，举明经，累次升迁，到当布宪下大夫。

平定北齐时，以梁毗为行军总管长史。

攻克并州，梁毗有功劳。

拜授别驾，加授仪同三司。

宣政中(578)，封为易陽县子爵，食邑四百户。

升为武藏大夫。

隋高祖受北周禅让后，梁毗晋爵位为侯爵。

开皇初年，朝廷设置御史官，因梁毗正直，拜授他为治书侍御史，他有称职之名。

继而转任大兴县令，调任雍州赞治。

梁毗既从司法部门出来，又治理京邑，他直道而行，无所回避，因此颇失权贵们的欢心，因此把他调出去当西宁州刺史，改封为邯郸县侯爵。

他在西宁州十一年。

此前，蛮夷的酋长都戴金冠，以金多者为豪隽，因此互相抢夺金子，常常诉之于干戈，边境没有安宁的年份。

梁毗很担心。

后因诸酋长跟着把金子送给梁毗，梁毗于是把金子放在座位旁边，对金子痛哭道：“这个东西，饿了不能吃，冷了不能穿。

你们因为它而互相消灭，死人不可胜数。

如今把这东西拿来，是想杀我吗？”梁毗一点金子都不要，全部还给他们。

于是蛮夷酋长感悟，不再互相攻击夺金子。

高祖知道了，认为他这么做很好，调他入京当散骑常侍、大理卿。

他司法公允，当时人都称赞他。

一年多后，升任上开府。

梁毗见左仆射杨素显贵得宠擅权，文武百官都怕他，担心他成为国家的大害，因此秘密上奏章说：“我听说，臣下是不能作威作福的。

臣下作威作福，为害就危及家族，行凶就危及国家。

我看左仆射、越国公杨素，得到的宠幸和待遇越来越重，权势越来越大，连朝中大臣，都要看他的脸色行事。

忤逆他的，他就大夏天下严霜，顺从他的，他就大冬天下春雨。

荣辱都由他嘴巴决定，废兴都等着他来指挥。

他所亲近的，都不是忠党；所提拔的，全是他的亲戚，他的子弟布满了很多州县。

如果天下无事，他尚会暂停陰谋；如果天下稍稍有点什么，他肯定会成为第一个反贼。

那些奸臣弄权擅命，都是逐渐来的。

王莽靠的是多年在朝中的积累，桓玄是在太平之世打的基础，但最后却灭了汉朝，倾覆了晋代。

季孙氏专权于鲁国，田氏篡权于齐国，都记在典籍上，不是我瞎说。

陛下如把杨素当作阿衡，我担心他的心未必像伊尹。

伏请陛下以古今为鉴，适当处置，以使基业永固，天下幸甚。

我轻率地冒犯您，听候您的处置。”高祖看了奏章，十分震怒，命令有关部门把他关起来，高祖亲自来审问他。

梁毗说：“杨素既已擅权，作威作福，他到了哪里，就在哪里滥杀无辜。

另外，太子和蜀王因罪被废黜时，百官无不震惊，惟有杨素扬眉奋臂，喜形于色，把国家的祸灾当作他的幸运的事。”梁毗讲得真实有理，有诚实坦荡之节操，高祖也无法使他屈服，于是放了他。

杨素从此恩宠渐衰。

但是，杨素权势很大，颇能折挫他人，当时朝中大臣没有不怕他的，没有谁敢与他争辩是非。

在杨素面前，能不屈服的，惟有梁毗、柳..以及尚书右丞李纲而已。

后来，皇上不再专门委任杨素，就是从明白梁毗的话开始的。

炀帝即位后，梁毗升任刑部尚书，并兼任御史大夫之事。

梁毗上奏，弹劾宇文述私自役使部兵。

炀帝想免宇文述之罪，梁毗固诤，因此忤逆圣旨，于是让张衡代替他当御史大夫。

梁毗忧愤，过了几个月就死了。

炀帝让吏部尚书牛弘去吊口言他，赠送他家缣采五百匹。