除了可以改变决定外，大会代表还通过了一项保密规则。他们在议会大楼外面安排站岗的卫兵，报社记者一律不许旁听，会议代表也不得公开讨论会议内容。保密规则引起了人们对大会的各种猜测，特别是在欧洲。大多数欧洲人都相信，这次大会是要讨论在美国设立王权。欧洲人认为，共和体制只适合于瑞士这种小国家，在美国这样幅员辽阔的国家行不通。

不少人开始猜测，哪位欧洲王子将出任美国国王。有人觉得肯定是普鲁士的亨利王子，另外一些人更看好英国国王乔治三世的次子弗雷德里克·奥古斯塔斯王子。在新闻封锁的情况下，就连很多美国人也都对这些说法将信将疑。

制宪大会召开时，托马斯·杰斐逊担任美国驻法国代表。他听说会议采取保密措施后，非常气愤，因为他坚信，言论和新闻应该自由。直到四十多年后，詹姆斯·麦迪逊才解释了大会采取保密规则的原因。他说，如果大会对外公开的话，任何大会代表都不会改变自己的主张，因为这样做就意味着公开承认自己原来是错的。麦迪逊说，如果制宪大会没有保密，肯定会一败涂地。

大会另外一项有助于代表们畅所欲言的规则是“全体委员会”的辩论方式。虽然听起来有些好笑，但这种方式直到今天依然很有效。根据这一方式，大家可以就提案展开讨论、进行投票表决，并随时改变立场。只要是处于委员会阶段，他们的投票就不会进入永久性记录。

为了让费城会议成为“全体委员会”，与会代表推选来自麻萨诸塞的法官纳撒尼尔·戈勒姆担任委员会主席。每天早上十点，大会代表聚在一起，宣布大会是“全体委员会”，乔治·华盛顿起身离开大会主席的座位，让委员会主席纳撒尼尔·戈勒姆坐下。下午四点，“全体委员会”又宣布恢复为“费城会议”，纳撒尼尔·戈勒姆把位置让给乔治·华盛顿，然后由华盛顿宣布会议第二天早上继续。这是每天都要走的过场。

5月29号，会议代表们听取了维吉尼亚的詹姆斯·杰斐逊等代表提出的政府计划。当时年仅33岁的维吉尼亚州州长埃德蒙·伦道夫介绍了这项计划。他一上来先对美国现行的《邦联条例》大加赞赏，称编纂这一条例的人“明智”、“伟大”。不过，他又补充说，《邦联条例》是为战争期间的十三个州写的，如今美国已经成为一个独立的国家，因此需要在《邦联条例》的基础上进行补充，需要有一份永久性文件。

埃德蒙·伦道夫州长谈到了美国十三州的现状。他说的一切，其实与会代表都知道，那就是，美国很多地方的政府都已经难以为继了。埃德蒙·伦道夫指出，维吉尼亚代表在计划中提出了十五点主张，绝对没有把这些主张强加给费城大会的意思，希望代表们能深入讨论，各抒己见。

虽然其他州的代表也提出了各自的计划，但是从一开始，维吉尼亚的计划就是最具影响力的。在接下来的三个月里，代表们对计划里的条款逐项讨论，投票表决，有时还会再次讨论。维吉尼亚代表提出的计划成了费城制宪大会讨论的基础，并最终成为美国宪法的基础。

费城大会原本是要对《邦联条例》进行改进，使其更加有效，但是维吉尼亚代表提出的计划却是要建立一个全新的中央政府。与会代表们从5月30号开始对这项计划展开辩论。埃德蒙·伦道夫一上来就提出了一项修正案，他指出，计划要求建立各州联盟是行不通的。他认为，美国的中央政府应该是一个国家政府，包括最高立法、行政和司法机构。

埃德蒙·伦道夫话音落后，会议厅里一片寂静。很多代表都好像僵在了那里，怀疑自己是不是听错了。对于大多数代表来说，三权分立不成问题，因为当时很多州已经实行了这种体制，但要建立一个“国家的”“享有最高权力的”中央政府，这到底意味着什么呢？

在接下来的很长时间里，与会代表围绕“联邦、国家、最高”这些词的定义展开了激烈讨论。詹姆斯·麦迪逊和宾夕法尼亚州州长格瓦诺·莫里斯提出了不同的解释。麦迪逊说，联邦政府针对州采取行动，而国家政府直接针对人民。莫里斯则认为，联邦政府只不过是根据各方诚意达成的协议，而国家政府拥有完整的运作系统和权力。

南卡罗来纳的皮尔斯·巴特勒想知道，为什么有必要建立一个国家政府。德拉瓦的约翰·迪金森回答说，“可我们是一个国家啊！我们是一个由很多州组成的国家。”莫里斯接着谈到了未来。他说，今天在费城参加会议的代表们的子子孙孙不会认为自己是宾夕法尼亚、纽约、或是北卡罗来纳的公民，他们会把自己看成是美国公民。

莫里斯说，我们这一代人会死去，我们的后代就是美国人。他表示，各州一定要隶属于一个享有最高权力的国家政府，因为“现在就建立一个最高政府，比20年后肯定会出现的独裁者强。”与会代表最终通过了建立国家政府的提案。