人工智能可以被控制嗎?維基百科的創(chuàng)始人吉米·威爾士 (Jimmy Wales) 表示,相信它可以實現(xiàn)類似于“神奇的思維”。
威爾士先生表示:“在許多情況下,政客及其助手對互聯(lián)網(wǎng)如何運作以及可以實現(xiàn)什么目標了解甚少?!彼撕芏鄷r間向全球政客解釋技術(shù)及其在言論自由中的作用。
“像聯(lián)合國這樣的機構(gòu)監(jiān)管人工智能的問題就像建議聯(lián)合國監(jiān)管 [圖像編輯應用程序] Photoshop 一樣。” 他的觀點是他認為這是毫無意義的。
今年夏天,聯(lián)合國秘書長安東尼奧·古特雷斯召開了有史以來第一次聯(lián)合國安理會會議,專門討論人工智能的潛在危險,因此,人工智能是否應該受到監(jiān)管以及監(jiān)管到何種程度的問題變得升溫。
談到從人工智能驅(qū)動的網(wǎng)絡攻擊、人工智能故障風險、人工智能如何傳播錯誤信息,甚至人工智能與核武器之間的相互作用等各個方面,古特雷斯表示:“如果不采取行動應對這些風險,我們就會失職?!蔽覀儗Ξ敶妥訉O后代的責任。”
此后,古特雷斯先生著手建立一個聯(lián)合國小組,以調(diào)查可能需要哪些全球監(jiān)管。該機構(gòu)被稱為人工智能高級咨詢機構(gòu),將由“現(xiàn)任和前任政府專家,以及來自工業(yè)界、民間社會和學術(shù)界的專家”組成。
它將于今年年底前發(fā)布初步調(diào)查結(jié)果。與此同時,上周埃隆·馬斯克和 Meta 的馬克·扎克伯格等美國科技巨頭在華盛頓與美國立法者舉行了會談,討論人工智能和未來潛在的規(guī)則。
然而,一些人工智能業(yè)內(nèi)人士對全球監(jiān)管能否成功表示懷疑。Pierre Haren 就是其中之一,他已經(jīng)研究人工智能45年了。
他曾在計算機巨頭 IBM 工作過七年,領(lǐng)導團隊為客戶安裝 Watson 超級計算機技術(shù)。Watson 于2010年首次亮相,可以回答用戶的問題,是人工智能的先驅(qū)之一。
盡管 Haren 先生有這樣的背景,但他表示,去年 ChatGPT 和其他所謂的“生成式人工智能”程序的出現(xiàn)和能力讓他“大吃一驚”。
簡而言之,生成式人工智能是能夠快速創(chuàng)建新內(nèi)容的人工智能,無論是文字、圖像、音樂還是視頻。它可以從一個例子中獲取一個想法,并將其應用于完全不同的情況。
哈倫先生說,這種能力與人類相似。“這東西不像鸚鵡,重復我們喂給它的東西,”他說?!斑@是進行高層次的類比?!?br />
那么我們?nèi)绾蝿?chuàng)建一套規(guī)則來阻止人工智能失控呢?哈倫先生說,我們不能,因為他說有些國家不會簽署這些協(xié)議。
“我們生活在一個有朝鮮和伊朗等不合作國家的世界,”他說?!八麄儾粫姓J有關(guān)人工智能的法規(guī)。
“對不合作行為者的監(jiān)管是天上掉下來的餡餅!你能想象伊朗尋找摧毀以色列的方法并關(guān)心人工智能監(jiān)管嗎?”
物理學家 Reinhard Scholl 是聯(lián)合國“AI For Good”計劃的創(chuàng)始人。其目的是尋找并實施實用的人工智能解決方案,以幫助實現(xiàn)聯(lián)合國的可持續(xù)發(fā)展目標。其中包括從消除貧困到消除饑餓以及讓每個人都能獲得清潔水等方方面面。
AI for Good 于2017年作為一項年度活動開始,現(xiàn)已發(fā)展成為定期舉辦的在線研討會,涵蓋人工智能的各個方面。
擁有超過20,000名訂閱者的 AI for Good 已經(jīng)觸動了人們的神經(jīng),但對積極的 AI 的興趣并不意味著 Scholl 先生感到樂觀。
“人工智能應該受到監(jiān)管嗎?這是理所當然的,是的!” 他宣稱,將這種情況與汽車或玩具制造商必須遵守安全法規(guī)進行了比較。
他最擔心的是,人工智能使不良行為者相對容易地利用該技術(shù)作為獲取危險能力的跳板。
“物理學家在理論上知道如何制造核彈,但在實踐中卻非常困難,”他說?!暗绻腥耸褂萌斯ぶ悄軄碓O計生物武器,他們就不需要知道那么多。
“如果人們太容易利用人工智能造成重大損害,那么就會有人這么做?!?br />
但未來的聯(lián)合國人工智能監(jiān)管機構(gòu)應該采取什么形式?一項建議是,它反映了國際民用航空組織(ICAO)的規(guī)定,該組織負責監(jiān)管全球航空旅行及其安全。該組織有193個成員國。
羅伯特·奧普 (Robert Opp) 是一位人工智能專家,他支持組建類似于國際民航組織 (ICAO) 的機構(gòu)。奧普先生是聯(lián)合國開發(fā)計劃署的首席數(shù)字官。
該機構(gòu)的任務是幫助各國推動經(jīng)濟增長和消除貧困。在他的工作中,他試圖找到利用技術(shù)提升組織影響力的方法。
這包括利用人工智能快速查看貧困地區(qū)農(nóng)田的衛(wèi)星圖像。奧普表示,他不想阻礙這種能力,也不想限制生成式人工智能幫助窮人創(chuàng)業(yè)的潛力。
但他也承認人工智能的潛在缺點?!敖鉀Q人工智能治理問題存在緊迫感?!?br />
不管緊急與否,維基百科的威爾士先生認為聯(lián)合國完全被誤導了。
他認為,國際機構(gòu)高估了谷歌等科技巨頭在人工智能產(chǎn)品雪崩中所扮演的角色,犯了一個重大錯誤。威爾士先生補充說,再多的善意也無法阻止軟件開發(fā)者個人及其對人工智能的使用。
他說,在科技巨頭的邊界之外,無數(shù)程序員正在使用免費的人工智能軟件,這些軟件的基線代碼可以通過互聯(lián)網(wǎng)獲得?!坝袛?shù)以萬計的個人開發(fā)者正在這些創(chuàng)新的基礎上進行開發(fā)。對它們的監(jiān)管永遠不會發(fā)生。”