聯邦與智庫共研AI 國會兩黨質疑不透明 常以保密做藉口

聯邦與智庫共研AI 國會兩黨質疑不透明 常以保密做藉口

歐陽傾墨 小說

國會議員質疑「國家標準與科技研究院」與智庫「蘭德公司」的夥伴關係。(路透)

商務部轄下「國家標準與科技研究院」(NIST)計劃與智庫「蘭德公司」(RAND Corp)建立研究人工智慧(AI)的夥伴關係,結果遭到衆院科學委員會兩黨重量級成員提出缺乏透明化的質疑。蘭德公司具有龐大影響力,與科技圈億萬富豪、人工智慧產業及引發爭議的「有效利他主義」(effective altruism)運動均有密切關係。

Politico新聞網站報導,衆院科學委員會六名兩黨成員12月14日致函國家標準與科技研究院,除了譴責作業不夠透明化,還批評新成立的美國「AI安全研究院」(U.S. AI Safety Institute)競爭激烈的研究贊助申請過程竟然沒有公佈。

保健室的距离

衆院科學委員會兩黨成員對國家標準與科技研究院提出警告說,必須特別小心外部團體進行AI安全研究的品質,因爲這些研究經常「用保密做爲掩護藉口」、「沒有提供證據支持其說詞」,經常不符合基本定義或基本原。

衆院科學委員會共和黨籍主席魯卡斯(Frank Lucas)、資深成員民主黨籍加州聯邦衆議員羅芙根(Zoe Lofgren)等人在信中寫道,國家標準與科技研究院與蘭德公司之間的夥伴關係不應該倉促推出,卻犧牲了正確行事。

隸屬於商務部的國家標準與科技研究院是曝光率並不高的機構,在拜登總統的AI計劃裡卻扮演重要角色。白宮今年10月發佈行政命令,授權國家標準與科技研究院成立「AI安全研究院」。

報導指出,國家標準與科技研究院資源相當有限的問題衆所周知,幾乎可以確定必須依靠外部研究人員承擔日漸成長的研究任務。

國家標準與科技研究院並未公開宣佈將透過「AI安全研究院」發放研究贊助經費給哪些團體,但有研究人員及主要科技公司決策主管透露,蘭德公司是獲得研究經費的其中之一。

放学裸赏会

榮成:工紙獲利穩步修復

衆院科學委員會成員在信中指出,蘭德公司日前公佈一項先進AI模型可能存有生物安全威脅的研究報告,但研究結果並未通過學術同僚審查。

許多AI及生物安全研究人員說,蘭德公司執行長馬西尼(Jason Matheny)與資深資訊科學家阿爾史托特(Jeff Alstott)都信奉「有效利他主義」,認爲過度強調AI與生物科技,恐將引發災難危機。

不停讓就開罰⋯行人路權可以維持多久?網曝台人習性:做做樣子啦

庶女狂妃

綠質疑新北市府航測圖造假賴宅定位 劉和然反批:誣陷公務員