与会代表们接下来讨论建立国会的问题，这可是最棘手的，涉及到每个州的人口多少与其在国会里的发言权之间的关系。有一个代表说，“说白了，这是争夺权力，而不是争取自由。人口少的州在国会里的权利可能会输给人口多的州，但是各州居民享受的自由都是一样的。”

与会代表们围绕这个问题展开唇枪舌战。来自德拉瓦州的冈宁·贝德福德在一次辩论中瞪着那些人口多的州的代表，大吼道，“先生们！我不信任你们。如果你们要压制我们这些小州，你们就会毁掉整个邦联。如果是这样的话，我们就要去找那些更有信誉和诚意的外国盟友，从他们那里得到公正。”

制宪大会的代表们整个夏天都在没完没了地围绕国会代表权的问题进行辩论、表决、再辩论、再表决。从五月到七月，没有任何进展。一名代表说，“看起来我们现在是寸步难行。”因此，代表们决定建立一个委员会，就国会代表权问题提出一份大家都能接受的意见。在接下来的几天里，这个委员会的成员埋头苦干，而其他人则放假，庆祝七月四号的独立日。

七月四号是美国的法定假日。1787年七月四号是美国宣布脱离英国独立建国十一周年。独立日这天，美国到处都有游行、烟火表演和爱国演说。费城是独立宣言签署的地方，又是新国家的诞生地，因此庆祝活动尤其热烈。制宪大会主席乔治·华盛顿带着一些代表到费城一家教堂参加活动，听取了一篇专门写给他们的演讲。

演讲者说，“你们的国家怀着忧虑和希望的心情关注着你们，你们的国家要靠你们做出的决定。你们的国家相信，你们这些独立战争中的领袖，知道如果规划一个对所有美国人都有利的政府。”他接着又说，“我们中间肯定有了解政府体制的人才，有解决困境的人才，我们肯定能够规划出一个政府，保护我们来之不易的自由。”

费城大会代表们需要这些鼓励之词。就在几天前，本杰明·富兰克林曾表达了对制宪大会前景的悲观。他说，“我们感觉自己缺乏政治智慧，我们上溯远古，研究早已不复存在的政治体制，也放眼今天，参考欧洲各地的现行制度，最后发现，没有任何一种宪法适合我们的需要。”富兰克林要求制宪大会寻求上帝的帮助，每次开会前先要祈祷。北卡罗来纳州的休·威廉森立即对富兰克林的建议提出了反驳。他的理由很简单，制宪大会没钱请牧师带领大家进行祷告。

独立日过后，制宪大会的代表们7月5号复会，听取了国会代表权委员会的报告。报告包括两项提案。委员会成员说，要么两项议案全都接受，要么全都拒绝。报告说，美国国会应该包括两院，其中一院的代表人数根据各州人口决定，每四万人出一名代表；另外一院里各州的代表人数相同。

其实，制宪大会早就投票同意建立国会参众两院，只是在各州议员人数和议员的产生方式上存在分歧。国会代表权委员会7月5号提出的议案完全是照搬了康涅迪克州代表罗杰·谢尔曼一个月前提出的方案，这一方案后来被成为“大妥协”。与会代表就此进行了很多天的辩论。他们明白，如果不能达成协议，就是宣告制宪大会的失败。这是费城制宪大会最黑暗的一段日子。

马里兰州的代表路德·马丁后来曾谈起，当时的报导都说大会代表在多少问题上达成了一致，但这并非事实。他说，“当时的情况千钧一发，大会险些陷入破裂。”纽约州的代表罗伯特·耶茨和约翰·兰辛退出大会，以示抗议。但是维吉尼亚州的代表乔治·梅森则宣布，达不成协议，他誓死也不离开费城。

当时，就连乔治·华盛顿也感到十分沮丧。他在写给临时回纽约的亚历山大·汉密尔顿的信中说，“眼下的辩论比以往任何时候都要糟糕，在组建一个有效政府的问题上，大家的看法南辕北辙。我几乎丧失了对大会成功的所有希望，真后悔当初同意来参加。”

1787年夏天，费城制宪大会的代表们就联邦政府的权限展开了持久和激烈的辩论。然而，这个问题并不是代表们面临的最严重的问题。很多年后，詹姆斯·麦迪逊解释说，当时最棘手的问题是各州在国会里的代表权问题，这才是对美国宪法的产生构成了最大威胁的问题。