格斯·利维出生并成长在新奥尔良，所以他一直以来说话都带着路易斯安那州特有的含混口音。他的父亲西格蒙·利维是一位包装箱生产商，他的母亲名叫贝拉·雷曼·利维。1923年父亲去世时他才刚刚12岁，而且他是家里唯一的男孩儿。之后的童年时代，格斯跟随母亲和两位姐姐迁到了巴黎。他上了当地的美国人学校，但是他声称自己当年多数时光“只是到处乱晃”度过的。回到路易斯安那州之后，他上了杜兰大学，但是仅几个月之后就退学并前往纽约。在纽约时，他租住在希伯来青年会位于第92街的一间宿舍里，随后在纽伯格公司的套汇业务上成为一名助理交易员。有时候，他下班之后会去中央公园的酒吧跳跳舞。
1933年，在朋友的推荐下，格斯·利维进入了高盛，年薪仅1500美元。他先是从事国外债券业务，然后是套汇业务，在这项业务上他当时还是跟随埃德加·巴鲁克学习的实习生。巴鲁克是个总是西装笔挺，连小胡须都要打蜡的人。巴鲁克也是萨克斯家族的好友，但是他从来没有成为高盛的合伙人，因为萨克斯家族认为任何曾在破产倒闭企业供过职的人都会给高盛的合伙人制度造成不利的影响。因为他早年曾与一家破产的公司有关系，所以巴鲁克实际上一直是利维的下属。他们齐心协力在沃尔特·萨克斯的领导下工作，沃尔特说，他们为公司“贡献了宝贵的意见，在最暗淡的年头里为公司创造了相当可观的财富”。
格斯·利维后来在60年代及70年代早期成为华尔街最有影响力的人物之一，他的头衔包括：纽约证券交易所主席、西奈山医院院长、共和党实力人物、多家企业评选出来的“最佳”外部董事、纽约慈善筹款事业的中心人物、企业融资市场的核心，当然，还是高盛无可争议的领袖。但是利维刚进入高盛时离权力和名誉还相距甚远，因为当时高盛还没能走出高盛交易公司造成的丑闻。
利维喜欢评价自己是“在股市崩盘时亏得最少的几个人之一，因为我当时根本没什么钱去赔”。他搬离第92街希伯来青年会的宿舍时还欠着2美元的房租。（他后来成为这家组织的母公司犹太慈善联盟的主要赞助商，他的理由是：“他们在我最需要的时候给我带来了友谊和信心。”）到30年代末，利维已经赚到了他的首个百万美元。在高盛重整旗鼓的年头里，虽然他还带着浓重的地方口音，但是凭借自己在数学方面的天赋、过人的记忆力、善于交友的性格，以及能长时间集中精力工作等优点，他在公司内的地位稳步攀升。
随着世界大战的临近，自恃身材魁梧的利维下定决心要参战。他临行前只给妻子珍妮特留下了一句再简单不过的话：“我要去了。”然后他通过华尔街一位朋友的介绍成了一名军人，从1941年开始负责导航及通信等任务。1942年他加入陆军时仅仅是名一等兵，之后他去了后备军官学校参加训练，加入空军第八师之后他参与了登陆法国的战役，晋升为少校，退伍时已经是中校了。1945年，他以合伙人的身份回到高盛，与巴鲁克一起将高盛的套汇业务不断向前推进，“使其成了华尔街上最活跃的场外交易部门”。
利维靠套汇业务起家，还涉足对因大型公用事业公司分裂而产生的鱼龙混杂的各类型证券进行分析和交易的业务，之后参与了无数铁路公司的重组业务。虽然当时美国的铁路行业受战时客货运输巨大需求的拉动出现了迅速的发展，但是在战后萧条期内也陷入了不可避免的长期衰退。
根据1937年《公用事业控股公司法案》的规定，像塞缪尔·英萨尔的公用事业帝国这样被债务压得不能翻身的集团公司也可以在重组之后重新上市，但是前提是承诺控股公司仅可以保留那些服务范围在地域上高度临近的实体公司，地理上相距太远的资产按规定应从母公司剥离出来。这些新独立出来的实体公司的股票如果要上市交易，其控股公司重组方案必须得到证券交易委员会批准，而“是否批准以及何时批准”都是未知数。所以当大型的控股公司被强行打破之后，投资者就必须对每家实体公司的市场价值进行独立的评估，以此决定日后的投资方向。
在这种市场状况下，投资者和公用事业公司都急需精明的风险套利专家为其筹措巨额资金，提前为这些“可能发行”的证券做市。套利业务一般是在非流通股上进行大规模的多头或卖空操作。这样的市场需求无疑为利维提供了良好的业务机会。他能直接筹措到大量资金，而且作为一位老交易员，他多年来从事的就是以现有证券交换新证券，然后在“可能发行”的基础上买卖新证券的交易——这种交易的利润来源是批发和零售间的价差以及价差的浮动。要从事这种套利业务，就需要不断地锻炼自己的本领，学会收集看似毫无关联的大量信息，通过分析这些信息对其他人现在“没兴趣”的灰色领域做出估计。如果在恰当的时间以恰当的方式激活了这个灰色领域，那么这些原本静止的买卖交易就会活跃起来，而且有时还能带来十分可观的交易量。
市场对刚刚发行的不成熟的公用事业公司及铁路公司股票的判断有着很大的不确定性，因为这些公司都涉及很多法律及信用的问题，而正是这样的市场环境为利维这样目光敏锐且训练有素的套利高手提供了理想的业务机会。与他同时期的高盛合伙人阿尔·费尔德评价他时说：“格斯非常聪明，而且十分有创新的才能。20世纪40年代，他通过充分发掘那些大型铁路公司及公用事业公司融资所发行的‘可能上市’的股票交易业务，为高盛开辟了一条全新的财路。他在开创优质市场方面有良好的声誉，而且他开辟的都是大型市场。在风险控制方面，一旦需要他承担损失，他绝对会毫不犹豫地承担下来。”
1953年，巴鲁克突然辞世，利维接手他的工作，继续打造一个“高效且有战斗力的组织”。一旦公司出现连续两个月或三个月的运营亏损，萨克斯家族就会召集一次财务审计会议，通常会邀请莱布兰德·罗斯兄弟–蒙哥马利公司的乔治·E·多蒂来进行联审。多蒂回忆说：“格斯·利维培养了一小群十分忠于他并且口风很紧的下属，这些人仅向他汇报工作。他们完好地保管着为了铁路股票套利业务所需的复杂冗长的记录。他们的原则非常简单：‘什么都不知道，什么都不说。’”
为了增加交易量并拉动需求的增长，利维总是在电话上和他的客户长时间交谈，向不同的机构推销新证券。在推销证券的过程中，利维可能会说，“如果你需要卖掉别的股票为我们的交易筹资的话，我很乐意购买你想要出售的任何东西”，或者追问，“如果你不想购买密苏里太平洋铁路的话，你可以考虑买点儿别的”。这是高盛最早开始和机构投资者商谈关于交易的业务，而不再仅仅商谈投资的事项。当然，他们的起点很低。当时股票交易部门的办公桌上仅有三位员工。利维后来说：“我们当时没有任何电子报价设备，所以我们还是得紧盯着报价机的纸带，随时掌握销售的情况及市场动向。”
开展套利业务的标准很高：首先，需要不断增长的交易量；其次，需要不断有新的资金注入，以保证交易顺利进行；再次，需要有果断的决策来把握转瞬即逝的机会；最后，当然还需要能够严守秘密的职业素养。这些业务领域的变化很大程度上反映了经纪业务的固有特点也在发生变化，而这些变化很大程度上是由机构投资者越来越活跃的市场参与程度决定的。市场的变化为格斯·利维这样有头脑、有决心的人创造了机会。
50年代中期，华尔街的气氛开始出现转变。很多曾在大萧条时期经历过种种困难的人都到了退休年龄，开始大批地离开华尔街，也把遭遇另一个大萧条的恐惧和担忧远远地抛在了脑后。年轻人怀着美好愿望和对未来的憧憬大量涌入这个商业圈。但是，最早预示市场氛围将出现变化的因素十分不起眼，很容易被人们忽视。1956年，高盛所有“与机构相关的业务”总额不过30万美元。这点儿业务量在那些家庭富庶、已经过上舒适的生活、在华尔街知名大公司任高级合伙人的经理人眼中根本不值一提。这些逢人便自称为投资银行家的人中间有一种默契，即开展经纪业务或股票交易业务只是为了在股票承销团中占有一席之地，根本谈不上赚什么钱。但是对致力于不断前进的人来说，就算是微不足道的小业务也昭示着未来不可限量的发展机会。
因为高盛的多数员工并没有什么显赫的身世，他们深知只有通过艰苦努力才能创造属于自己的财富，而且很多其他公司都视高盛为圈外人，所以他们也可以毫无顾忌地冒着风险开展许多新业务，而不怕被其他人看作“异类”。在高盛介入机构大宗交易业务的过程中，纽约证券交易所的一位场内专家鲍勃·门舍尔起到了重要的作用。在此类业务诞生之初，他就说服利维把他充沛的精力中的一部分投入这个新生业务。门舍尔后来回忆说：“当时，交易所内一片寂静。我们想方设法为公司寻找更多的生意机会，而且都是从我们任职的公司所从事的、我们熟悉的业务入手。”曾有一次，由于市场业务的活跃程度不断增加，西德尼·温伯格当时任董事的一家公司将要开展一次兼并业务，这就是日后门舍尔能够直接给温伯格写信联络的契机。一年之后，门舍尔致信温伯格，简要回顾他们之前曾经见过面。他在信中介绍并详细解释了他发现的一些市场上有趣的新动向：交易量为1000股，5000股，有时甚至是10000股的交易正成为机构投资者的新选择。“我注意到了这样的新现象，而且我觉得这样的趋势会发展成为日后相当重要的业务种类，特别利于与保险公司及其他机构开展合作。5000股或10000股这样大量的交易对于交易所内单枪匹马的交易员而言实在是无法驾驭，因为他们通常处理的都是100股或200股的交易，他们手头不可能有那么多资金去处理大宗交易。”
温伯格之后把信交给利维并附上了一张便条：“我想不起来是不是见过他，但是你一定得见一见。”利维是个对新业务非常敏感的人，而凑巧的是，他当时正在接待这位交易员。他看了信之后说：“不论5万股还是10万股，我肯定参与你的交易。”两人正式会面之后，对市场将发生新的变化达成了一致意见，然后利维安排高盛的8位合伙人对他进行了面试。6个月之后，门舍尔加入了高盛。“我的叔叔怒火万丈，他根本没想到我会放弃在交易所的工作。高盛的很多合伙人也觉得不可思议：和华尔街上许多商人一样，他们一辈子的梦想就是在事业的巅峰时期能拥有一个（交易所内的）位置。但是我当时确实对交易所内的工作感到百无聊赖。你要想在交易所内打发一整天时间，就得学会和其他交易员打扑克，可惜我不会。”
利维和高盛在套利业务上久经历练，他们对做市的时间和风险有了新的认识。同一时期，业内其他公司都对“本金”交易产生的损益当天计算。对场外做市业务进行当天统计是有意义的，因为这些交易都是独立的，一宗交易与另外一宗不会产生任何联系。但是这种在零售交易当中执行得不错的规则，却引发了机构大宗交易中严重的错误决策，因为大宗交易的成交靠的完全是关系，都是由回头客带来的循环交易。除此之外，场外交易员的首要任务是保护企业股东的资金，同时避免由员工犯错带来的损失。高盛当时的状况是，承担风险的资金全都是合伙人的自有资金，合伙人同时也是前台做业务的一线业务员，也就是说员工和股东是同一批人。他们熟悉这些操作自己户头的人，因为他们每天抬头不见低头见。为了给高盛创造利润，他们的首要目的不是避免亏损，而是为公司开发有利可图的商务联系，从而为公司长期赢利的前景开创一个好的局面。他们以公司负责人的长远眼光把股票交易业务定位为一项能够长期赢利的业务。把一流的服务和风险投资资金结合在一起，交易类业务也能被打造成有长期成长力的生意。要从事大宗交易就要承受业务开展的艰难，面对强烈的竞争，也要求业务员具有良好的素质，更需要敢于承担风险的勇气。高盛就是秉承了以上这些优点，在利维的领导下与业内其他几个竞争对手一起，把交易业务打造成了一种凭借广泛的企业关系才能取得成功的业务。从事这项业务就像骑着一匹野马，只有以长远的眼光来驾驭它才可能获得充分的回报。
