创始人之一。在他和奥尔忠尼启则的共同努力下，1922年，阿塞拜疆共和国、亚美尼亚共和国和格鲁吉亚共和国联合成立了南高加索联邦社会主义共和国，并通过了加入苏维埃社会主义共和国联盟的决议。
1923年他在俄共第十二次代表大会上当选为中央委员。1925年12月调到列宁格勒工作，1926年2月在列宁格勒省召开的党的第23次特别会议上当选为联共列宁格勒省委第一书记并兼任联共中央西北局第一书记，联共中央政治局候补委员。1930年起任联共中央政治局委员。
不过如此顺风顺水，也并不完全是好事，在苏联召开的第十七次代表大会上，基洛夫取得了很大一部分人的支持，这让一直把基洛夫视作自己接班人的斯大林感觉到了危机。
权力让人欲壑难填，事实上基洛夫也在此时此刻觉得自己不必屈居人下，在苏联**会议期间公开站出来准备和自己亦师亦友的斯大林分庭抗礼了。
1934年12月1日这一天的下午16时30分左右，基洛夫按着安排进入州委办公大楼斯莫尔尼宫，并沿主楼梯来到了三楼。就在基洛夫从主走廊拐向左边的走廊准备走向自己的办公室时，后脑中枪倒地。闻声冲出来的工作人员及警卫人