除了可以改變決定外，大會代表還通過了一項保密規則。他們在議會大樓外面安排站崗的衛兵，報社記者一律不許旁聽，會議代表也不得公開討論會議內容。保密規則引起了人們對大會的各種猜測，特別是在歐洲。大多數歐洲人都相信，這次大會是要討論在美國設立王權。歐洲人認為，共和體制只適合於瑞士這種小國家，在美國這樣幅員遼闊的國家行不通。

不少人開始猜測，哪位歐洲王子將出任美國國王。有人覺得肯定是普魯士的亨利王子，另外一些人更看好英國國王喬治三世的次子弗雷德里克·奧古斯塔斯王子。在新聞封鎖的情況下，就連很多美國人也都對這些說法將信將疑。

制憲大會召開時，托馬斯·傑斐遜擔任美國駐法國代表。他聽說會議採取保密措施後，非常氣憤，因為他堅信，言論和新聞應該自由。直到四十多年後，詹姆斯·麥迪遜才解釋了大會採取保密規則的原因。他說，如果大會對外公開的話，任何大會代表都不會改變自己的主張，因為這樣做就意味著公開承認自己原來是錯的。麥迪遜說，如果制憲大會沒有保密，肯定會一敗塗地。

大會另外一項有助於代表們暢所慾言的規則是“全體委員會”的辯論方式。雖然聽起來有些好笑，但這種方式直到今天依然很有效。根據這一方式，大家可以就提案展開討論、進行投票表決，並隨時改變立場。只要是處於委員會階段，他們的投票就不會進入永久性記錄。

為了讓費城會議成為“全體委員會”，與會代表推選來自麻薩諸塞的法官納撒尼爾·戈勒姆擔任委員會主席。每天早上十點，大會代表聚在一起，宣佈大會是“全體委員會”，喬治·華盛頓起身離開大會主席的座位，讓委員會主席納撒尼爾·戈勒姆坐下。下午四點，“全體委員會”又宣佈恢復為“費城會議”，納撒尼爾·戈勒姆把位置讓給喬治·華盛頓，然後由華盛頓宣佈會議第二天早上繼續。這是每天都要走的過場。

5月29號，會議代表們聽取了維吉尼亞的詹姆斯·傑斐遜等代表提出的政府計劃。當時年僅33歲的維吉尼亞州州長埃德蒙·倫道夫介紹了這項計劃。他一上來先對美國現行的《邦聯條例》大加讚賞，稱編纂這一條例的人“明智”、“偉大”。不過，他又補充說，《邦聯條例》是為戰爭期間的十三個州寫的，如今美國已經成為一個獨立的國家，因此需要在《邦聯條例》的基礎上進行補充，需要有一份永久性文件。

埃德蒙·倫道夫州長談到了美國十三州的現狀。他說的一切，其實與會代表都知道，那就是，美國很多地方的政府都已經難以為繼了。埃德蒙·倫道夫指出，維吉尼亞代表在計劃中提出了十五點主張，絕對沒有把這些主張強加給費城大會的意思，希望代表們能深入討論，各抒己見。

雖然其他州的代表也提出了各自的計劃，但是從一開始，維吉尼亞的計劃就是最具影響力的。在接下來的三個月裡，代表們對計劃裡的條款逐項討論，投票表決，有時還會再次討論。維吉尼亞代表提出的計劃成了費城制憲大會討論的基礎，並最終成為美國憲法的基礎。

費城大會原本是要對《邦聯條例》進行改進，使其更加有效，但是維吉尼亞代表提出的計劃卻是要建立一個全新的中央政府。與會代表們從5月30號開始對這項計劃展開辯論。埃德蒙·倫道夫一上來就提出了一項修正案，他指出，計劃要求建立各州聯盟是行不通的。他認為，美國的中央政府應該是一個國家政府，包括最高立法、行政和司法機構。

埃德蒙·倫道夫話音落後，會議廳裡一片寂靜。很多代表都好像殭在了那裏，懷疑自己是不是聽錯了。對於大多數代表來說，三權分立不成問題，因為當時很多州已經實行了這種體制，但要建立一個“國家的”“享有最高權力的”中央政府，這到底意味著甚麼呢？

在接下來的很長時間裏，與會代表圍繞“聯邦、國家、最高”這些詞的定義展開了激烈討論。詹姆斯·麥迪遜和賓夕法尼亞州州長格瓦諾·莫里斯提出了不同的解釋。麥迪遜說，聯邦政府針對州採取行動，而國家政府直接針對人民。莫里斯則認為，聯邦政府只不過是根據各方誠意達成的協議，而國家政府擁有完整的運作系統和權力。

南卡羅來納的皮爾斯·巴特勒想知道，為甚麼有必要建立一個國家政府。德拉瓦的約翰·迪金森回答說，“可我們是一個國家啊！我們是一個由很多州組成的國家。”莫里斯接著談到了未來。他說，今天在費城參加會議的代表們的子子孫孫不會認為自己是賓夕法尼亞、紐約、或是北卡羅來納的公民，他們會把自己看成是美國公民。

莫里斯說，我們這一代人會死去，我們的後代就是美國人。他表示，各州一定要隸屬於一個享有最高權力的國家政府，因為“現在就建立一個最高政府，比20年後肯定會出現的獨裁者強。”與會代表最終通過了建立國家政府的提案。