红军和抗战
在20世纪30年代初期，刘亚楼和林彪就相识了。
刘亚楼1929年9月加入工农红军，1930年任闽西红军连长，同年随后又任红12军一营营长兼政委。
林彪当时是红4军军长。有一次林彪看见刘亚楼，摸着他的头对红12军军长罗炳辉说：“20岁当营长，这个小营长真不错！”刘亚楼大大咧咧地回答林彪：“你才23岁，已经当军长了。”那个时候林彪还不是刘亚楼的顶头上司，却留意到了这位才华横溢的年轻指挥员。
很快，1930年6月刘亚楼又任第12师35团政委，第一次反围剿时，红35团活捉了张辉瓒，歼敌约10000人。
1932年上级领导任命刘亚楼为红11师政委，仔细算算那年他才22岁。
后来一位中央的同志在65年会见老挝抗美代表，在提到一些中国革命中的高级干部时，特地说到了刘亚楼的情况：“我们的干部是从当兵，当班长，排长，连长这么一步步上来的。有当兵三年就当师长的，比如原空军师长刘亚楼，1929年当兵，1932年就当师政委。”
后来红军改编，刘亚楼被任命为红2师5团团委。之后随红一方面军主力长征，期间多次完成了艰险任务。
1939年刘亚楼正式成为苏联伏龙芝学院的一员，此后几年时间，他优秀地完成学业，苏德战争中斯大林格勒会战中刘亚楼提出的作战方式得到证明，后拒绝加入苏联国籍的邀请，担任了中苏两方在旅顺大连的联络官。
据吴法宪说，刘亚楼告诉他，在刘亚楼去苏联前，林彪专门给刘亚楼写了一封信，鼓励他好好学习。林彪在信里表示，他和刘亚楼情同手足，生死与共。信的最后署名“共患难的朋友林彪”。林彪性格内敛，能写出这封信也是很难得。
而1938年冬，林彪因脊柱受伤问题，前往苏联继续就医，住在莫斯科的中国党校，由伏龙芝军事学院的将级教官授课。1942年林彪回到延安。
东北合作
林彪在抗战胜利后，被任命为东北人民自治军总司令，东北民主联军总司令兼政治委员，东北军区、东北野战军司令员兼政治委员和中共中央东北局书记。
1946年2月东北局副书记、东北民主联军副政委罗荣桓肾病发作，转去大连休养，4月中旬开始的四平保卫战中我军伤亡很大，林彪急需一位有能力，能共事的参谋长。而自从在中央苏区共事以来，刘亚楼一直是林彪欣赏、满意的一名优秀的战将，再加上苏联治病期间，二人共同探讨过苏德战争的问题，林彪更加认定刘亚楼的能力可以信赖。
1946年由罗荣桓推荐，林彪首肯，中央和毛主席批准，刘亚楼被任命为东北民主联军参谋长。赴哈尔滨就任时，林彪一改往日不出门迎人的习惯，亲自迎接，他握着刘亚楼的手，脸上露出难得的笑容。
此后东北便有了响当当的“林罗刘”。
林彪和刘亚楼的关系，是在战争时期因为工作原因结下的。林彪在战场上指挥果断，他的主要性格之一就是只相信自己，完全独立不依赖他人，林彪曾经赠送刘亚楼一副字“在生死攸关时，别人都是其次，只有你最重要，此胜之要领也”。这大概是林彪的制胜法宝。不管刘亚楼接不接受这个“胜之要领”，单从林彪不爱给下属题字这一点看，刘亚楼和林彪的关系确实不一般。
建国之后
建国后刘亚楼受毛主席指示，成立中国空军，很受毛主席和中央领导的器重。林彪代替彭德怀担任国防部长并主持中央军委工作后，刘亚楼被任命为国防副部长，兼空军司令。这多多少少能反映出中央，尤其是林彪对刘亚楼的信任。
刘亚楼建空军时每天工作都有大量的工作，那时候身体就很劳累了，后来担任国防部副部长后工作更繁忙了。1964年身体开始不舒服，有些腹泻，年底查出了肝癌。
后经过中央批准，刘亚楼去上海养病。当时在苏州养病的林彪赶往上海，照料刘亚楼的治疗工作。林彪每天派工作人员去看刘亚楼，自己也亲自去看了好几次。从林彪的性格来看，这种关心程度是少有的。
1965年5月7日，刘亚楼去世。林彪亲自去机场接了刘亚楼的骨灰，亲自向刘亚楼的遗像献了花圈，最后亲自护送灵山，把骨灰送去了八宝山。