【內幕】為什麼現在就必須對AI進行監管？

【大紀元2023年05月23日訊】（大紀元記者程雯綜合報導）「我們和很多音樂家進行了交談。他們擔心使用人工智能（AI），那些AI會模仿他們的聲音並使用他們歌曲的歌詞，這些你可以在ChatGPT上得到」，美國國會共和黨籍參議員瑪莎‧布萊克本（Marsha Blackburn）說，「這意味著藝術家們賺不到錢了，AI剝奪了他們從他們的作品中獲益的憲法權利」。

「它（AI）很有可能會讓生活變得更好，我們會迎來一個富足的時代。它（AI）也有可能出錯並毀滅人類。」美國科技奇才和科技巨富埃隆‧馬斯克（Elon Musk）強調AI技術是一把「雙刃劍」，並對AI的未來發展發出警告。

隨著AI技術日益增長並滲透到人類日常生活的不同方面，不僅藝術家和內容創作者們對他們的知識產權產生越來越嚴重的擔憂，而且人類的其它工作和就業機會也在面臨其嚴重威脅。此外，AI衍生技術還導致前所未有的現象出現，如公司利用AI監控員工，罪犯利用AI進行詐騙等等。

AI對人類生存空間迅速而嚴重的衝擊也已讓美國國會議員們快速行動起來，以儘快制定立法限制AI發展，防止AI技術失控進而吞噬掉人類。

威脅到藝術家們的生計和其它工作機會

綜合多方媒體報導，最近一段時間以來，新加坡籍華語樂壇著名女歌手孫燕姿的AI翻版在中國大陸的影音平台上火爆起來，「AI孫燕姿」翻唱歌曲時的音色仿真到「連換氣聲都能清晰聽到，咬字尾音都非常像本人」的完美程度，這已引起人們對歌曲版權的關注。

這種現象在國際上已經不是個例，在美國也已成為國會關注的嚴重問題之一，來自田納西州的布萊克本參議員5月16日在參議院司法小組委員會的第一場AI聽證會上提出了這些問題，當時兩黨立法者們都向OpenAI的首席執行官山姆‧阿特曼（Sam Altman）就AI領域的快速發展提出了質疑。

布萊克本向阿特曼問道：「你能否承諾，就像你對消費者數據所做的那樣，不在藝術家和詞曲作者的版權作品上訓練人工智能模型，或者不在未事先徵得他們同意的情況下使用他們的聲音和類似東西？」

阿特曼沒有直接回答布萊克本參議員，而是淡化了OpenAI的自動點唱機Jukebox應用程序的影響力，這個應用程序使用AI來生成音樂。他說：「自動點唱機沒有得到太多關注或使用。它只是為了展示什麼是可能的。」

同時，阿特曼也表示考慮到這種全新的AI經濟模式如何發展，他說：「我們認為內容創作者、內容所有者需要從這項技術中受益。這種經濟模式到底是什麼，我們仍在與藝術家和內容所有者們討論他們想要什麼。我認為有很多方法可以實現這一點。但是，很明顯，無論法律是什麼，做正確的事是為了確保人們從這項新技術中獲得顯著的好處。」

聽證會後，布萊克本向福克斯新聞數字頻道（Fox News Digital）表示，她對阿特曼的回答不滿意。她說：「我認為他（阿特曼）表明他知道這些擔憂，但是他沒有答案，這將意味著國會需要介入並查看類似的情況。」

不只是藝術行業，人類的其它工作和就業機會也受到了威脅。IBM（國際商業機器公司）在5月1日透露，該公司將暫停招聘，因為未來幾年大約7,800個工作崗位可能會被AI取代。

IBM首席執行官阿爾溫德‧克里希納（Arvind Krishna）告訴彭博社，公司人力資源等後台職能部門的人員招聘將被暫停或放緩，還有30%的非面向客戶的工作角色可能會在五年內被AI和自動化所取代。

這個消息一公布，IBM的股票應聲下跌，不過到5月11日跌至每股120.90美元的低點後又開始回升，到5月22日時已經回升到128.11美元，甚至還高於了5月1日的126.09美元，這似乎顯示了市場對AI的無奈和複雜心情。

引發新型的詐騙和作弊手段 影響人類互信

來自康涅狄格州的民主黨參議員理查德‧布盧門撒爾（Richard Blumenthal）在16日的聽證會開始時，讓AI生成的他的聲音朗讀他的部分開場白，這個實例讓人鮮明地認識到AI仿聲到了真假難辨的地步及其潛在風險。

參議院老齡問題特別委員會共和黨參議員、印第安納州的邁克‧布勞恩（Mike Braun）5月18日帶頭向聯邦貿易委員會（FTC）發出兩黨聯名信，要求FTC更新對AI詐騙的了解和對老年人的保護。

這封由該參議院委員會的所有兩黨成員簽署的信函向FTC主席麗娜‧漢（Lina Khan）警告說，語音克隆和聊天機器人ChatGPT讓詐騙者可以欺騙老年人，讓老年人相信他們正在與自己的親戚或密友交談，這使他們很容易被騙失財。

在接受福克斯新聞數字頻道採訪時，布勞恩說，「冒名頂替」詐騙每年造成約26億美元的損失，他表示，由於詐騙者可以使用AI語音克隆技術，這讓老年人尤其容易受到威脅。

他說：「當你可以複製一個聲音到我無法分辨那是參議員布盧門撒爾還是複製品的程度時——聽起來和他一模一樣——想像一下，這是騙子們從未有過的工具。」

蘋果公司5月16日宣布，蘋果iPhone很快就能用用戶的聲音說話。新的iPhone功能「Personal Voice」將為用戶提供隨機文本提示，以生成15分鐘的音頻。另一項功能「Live Speech」將允許用戶保存常用短語，以便讓手機在通話和面對面交談時可以用用戶的聲音說話。預計「Personal Voice」將在今年年底前發布。已有批評人士表示，這可能會助長聲音造假，在未來構成安全和隱私威脅。

不只是聲音，AI技術對人類的其它行為的模仿也達到了以假亂真的地步。2022年9月，一位39歲的遊戲設計師傑森‧艾倫（Jason M. Allen）通過在AI平台Midjourney上生成的一幅畫《太空歌劇院》（Théâtre d’Opéra Spatial）參加科羅拉多州博覽會的年度美術比賽，打敗了真人畫家的畫作而贏得「數字藝術/數字操縱攝影」競賽單元的大獎。這是AI生成圖像首次獲得人類藝術獎項。

艾倫被真人藝術家們強烈指責作弊，但是獎項評委們則表示，如果他們事前知道這是AI圖像，他們也會授予艾倫最高獎項。

德州農工大學（Texas A&M University）商學院的一位教授賈里德‧穆姆（Jared Mumm）5月15日在本學期即將結束時，在給他的班級學生們發出的一封郵件中說，他發現學生們使用了聊天機器人ChatGPT完成論文作業，他打算給這些學生不及格。這引發了學生的抗議，並造成師生之間的不信任爭議。

該大學後來不得不發聲明表示，他們正在「制定政策來解決在課堂上使用或濫用AI技術的問題。」

好萊塢著名演員批評 六成美國人認為將威脅人類未來

美國好萊塢著名演員西恩‧佩恩（Sean Penn）5月19日在戛納電影節上發表講話時強烈支持好萊塢編劇大罷工，他狠批AI是「對人類的褻瀆」。

美聯社報導說，佩恩是在他的新片《黑蠅》（Black Flies）的新聞發布會上談到了美國作家協會（WGA）正在進行的大罷工。這部新片由導演讓-斯蒂芬‧薩瓦爾（Jean-Stéphane Sauvaire）執導，講述了紐約急救人員的悲慘故事。當被問及WGA大罷工時，佩恩說：「很長一段時間以來，這個行業一直在顛覆編劇、演員和導演。」

「有很多新概念被拋出，包括AI的使用。我覺得這是一種對人類的褻瀆，製片人需對此提出反對。」佩恩本人也是一名資深編劇兼導演。

5月2日，美國電影和電視編劇在與美國電影和電視製作人聯盟（AMPTP）的談判破裂後開始大罷工。WGA在為編劇們在尋求更高的薪酬、流媒體時代的新合同，以及防止使用AI劇本的保護措施。（見早期報導《【內幕】好萊塢編劇大罷工 美國娛樂業或遇拐點》）

與此同時，根據5月17日發布一項最新的路透社/益普索（Reuters/Ipsos）民調發現，大約十分之六的美國人將AI視為對人類文明的威脅。

該民調顯示，61%的美國人認為AI是對人類未來的威脅，只有約22%的人表示不同意，另有17%的人表示不確定。

那些在2020年投票給前總統川普的選民更擔心AI的威脅，大約70%的川普選民同意人工智能可能會威脅人類，拜登總統的選民中也有60%同意這個觀點。

可用於公司密切監視員工的行蹤 可能造成違法

負責在工作場所執行公民權利的美國機構負責人表示，AI技術驅動的「老闆軟件」（bossware）工具密切跟蹤員工的行蹤和工作效率，甚至敲擊鍵盤的記錄，這可能違反歧視法。

美國平等就業機會委員會（EEOC）在5月18日發布了最新的一套指南，內容涉及在僱用或晉升等就業決策中如何使用自動化系統。該指南特別解釋了1964年《民權法案》（Civil Rights Act）的一項關鍵條款，即第七章，該條款禁止基於種族、膚色、國籍、宗教或性別的工作歧視。

EEOC主席夏洛特‧伯羅斯（Charlotte Burrows）告訴美聯社，該聯邦機構正在努力教育雇主和技術提供商，讓他們了解如何使用這些監控工具以及如何使用簡化評估就業前景工作的AI工具。

「在必要時，我並不羞於使用我們的執法權力。我們想與雇主合作，但民權法肯定不能豁免，因為你可能以某種高科技方式實施了歧視。」伯羅斯說。

EEOC的大部分工作涉及調查認為自己受到歧視的員工提出的投訴。雖然求職者很難知道有偏見的招聘工具是否會導致他們被剝奪工作機會，但伯羅斯表示，員工們「普遍更加了解了」越來越多地用於監控他們生產力的工具。

這些AI工具的範圍從用無線電射頻設備跟蹤護士，到監控倉庫工人和送貨司機每分鐘都受到嚴格控制的時間表，再到跟蹤計算機鍵盤敲擊或鼠標點擊，因為許多辦公室員工在新冠病毒大瘟疫期間開始在家工作。有些監控可能會違反民權法，具體取決於它們的使用方式。

伯羅斯指出，國家勞資關係委員會（NLRB）也在研究此類AI工具。NLRB去年發出了一份備忘錄，警告過度干預的監督和管理工具可能會損害員工們相互溝通的權利。

他說：「我認為最好的方法——我並不是說不要使用AI工具，它本身並不違法——而是真正思考雇主希望衡量的是什麼，也許直接衡量，如果你想看看工作是否完成，或許只要檢查工作是否完成就行了。」

馬斯克等AI先驅也提出警告

作為OpenAI的聯合創始人，以及太空火箭公司SpaceX和電動汽車公司特斯拉（Tesla）的首席執行官，埃隆‧馬斯克是AI技術的最早支持者，但也是最早呼籲暫停AI開發的AI先驅者之一，他警告說AI可能會讓「社會和人類」處於危險之中。

馬斯克在5月16日接受CNBC採訪時說：「它（AI）很有可能會讓生活變得更好，我們將迎來一個富足的時代。它（AI）也有可能出錯並毀滅人類。

「希望這種機會很小，但不會是零。我認為我們要採取我們能想到的任何行動來儘量減少AI出錯的可能性。」

馬斯克稱AI技術是一把「雙刃劍」，他還強調很難預測新的AI工具接下來會出什麼事。

另一位領先的AI先驅傑弗里‧辛頓（Geoffrey Hinton）5月早些時候離開了Alphabet公司，並對他幫助創造的AI技術的危險性發出了警告。他警告說AI可能對人類構成生存威脅，「我們應該認真擔心我們如何阻止這些事情，讓其在我們面前得到控制」。

微軟首席經濟學家邁克爾‧施瓦茨（Michael Schwarz）警告說，AI很可能「被壞人利用」，並可能「造成真正的損害」。

AI技術發展是如此之快，OpenAI在5月18日向美國的iPhone和iPad推出了ChatGPT免費應用程序。據悉，上架不到12小時，ChatGPT的智能手機應用就已經衝到蘋果應用商店免費下載排行榜第二的位置。該公司表示，這款免費應用程序還將很快在其它國家和安卓手機系統上推出。

不過，OpenAI首席執行官阿特曼在5月16日的國會聽證會上向立法者們表示，他並不是要讓人們越來越多地使用ChatGPT，因為在被稱為「圖形處理單元」（GPU）的計算機芯片上訓練和運行其AI模型的成本很高，他說：「事實上，我們的GPU非常短缺，使用我們產品的人越少越好。」

阿特曼也承認AI可能會對人類就業產生「重大影響」，並承諾與政府其它行業一起合作，儘量降低這種風險。他說：「我最擔心的是我們——這個領域、技術、行業——對世界造成重大傷害。我認為這可以通過很多不同的方式發生。

「我認為如果這項技術出現問題，它可能會大錯特錯，我們希望對此直言不諱。我們希望與政府合作，防止這種情況發生。」

國會議員：需立法加以規範

參議院多數黨（民主黨）領袖查克‧舒默（Chuck Schumer）表示，國會「必須迅速採取行動」來規範AI，他還召集了一個由兩黨參議員組成的小組來製定立法。

舒默說，該小組在5月17日舉行了會議，他的工作人員已經會見了近100名與AI技術打交道的首席執行官、科學家和學者。

在5月18日的參議院開場白中，舒默說：「我們不能行動得過快，以至於讓立法存在缺陷，但也沒有時間浪費、拖延或坐視不管。我們必須快速行動。」

舒默認為，國會需要快速行動，因為AI技術進步是如此之快。他還對共產中國自身監管AI的努力表示了擔憂，認為這是「給全美國敲響的警鐘」。

他說：「如果負責任地加以利用，AI有能力為公眾利益做很多事情。它可以在醫學、商業、國家安全、科學和許多其它生活領域開啟難以想像的奇跡。但如果任其發展，AI有能力造成巨大、巨大的傷害。」◇

責任編輯：李琳#