參考消息網(wǎng)12月11日?qǐng)?bào)道 據(jù)美國(guó)消費(fèi)者新聞與商業(yè)頻道網(wǎng)站11月21日?qǐng)?bào)道，著名計(jì)算機(jī)科學(xué)家約舒亞·本喬——人工智能先驅(qū)——發(fā)出警告，提醒謹(jǐn)防這項(xiàng)新興技術(shù)對(duì)社會(huì)的潛在負(fù)面影響，并呼吁深入研究，降低風(fēng)險(xiǎn)。
本喬是蒙特利爾大學(xué)教授、蒙特利爾學(xué)習(xí)算法研究所所長(zhǎng)，因在深度學(xué)習(xí)領(lǐng)域的研究多次獲獎(jiǎng)。深度學(xué)習(xí)是人工智能的一個(gè)子集，它試圖模仿人類大腦活動(dòng)，學(xué)習(xí)如何識(shí)別數(shù)據(jù)的復(fù)雜模式。
可能造成動(dòng)蕩
但是，本喬為這項(xiàng)技術(shù)感到擔(dān)憂，并提醒謹(jǐn)防一些擁有“強(qiáng)大權(quán)力的”人甚至可能希望看到人類被機(jī)器替代。
在蒙特利爾舉行的世界青年領(lǐng)袖峰會(huì)上，本喬告訴消費(fèi)者新聞與商業(yè)頻道記者塔妮婭·布萊爾：“展望我們未來面臨很多方面與自己一樣聰明的機(jī)器的情景及其那對(duì)社會(huì)意味著什么，這確實(shí)很重要�！�
他說，機(jī)器可能很快具備人類的大部分認(rèn)知能力；通用人工智能(AGI)是一項(xiàng)旨在達(dá)到或超越人類智力的人工智能技術(shù)。
他說：“智慧賦予力量。那么，誰將控制那種力量？讓知識(shí)量超過大部分人類的系統(tǒng)落入壞人之手，可能帶來危險(xiǎn)，并在地緣政治或恐怖主義層面造成更大動(dòng)蕩。”
本喬認(rèn)為，能夠負(fù)擔(dān)得起制造強(qiáng)大的人工智能機(jī)器的組織或政府?dāng)?shù)量是有限的，而且人工智能系統(tǒng)規(guī)模越大，其智能程度越高。
他說：“你知道，建造和訓(xùn)練這些機(jī)器需要巨額成本，只有極少數(shù)組織機(jī)構(gòu)和國(guó)家有能力完成。現(xiàn)在已然如此�！�
“會(huì)出現(xiàn)力量集中：可能對(duì)市場(chǎng)不利的經(jīng)濟(jì)實(shí)力集中，以及對(duì)我們這個(gè)星球的地緣政治穩(wěn)定不利的軍事實(shí)力集中。因此，我們需要盡快仔細(xì)研究并開始緩解大量有待解決的問題�！�
他說，幾十年內(nèi)就可能出現(xiàn)這種結(jié)果。
他還說：“但是，如果是五年，那么我們還沒準(zhǔn)備好……因?yàn)槲覀儧]辦法保證這些系統(tǒng)不傷人或是與人類反目……我們不知道如何保證。”
本喬說，有觀點(diǎn)認(rèn)為目前正在訓(xùn)練的人工智能機(jī)器“將產(chǎn)生與人類反目的系統(tǒng)”。
制定防護(hù)措施
他說：“此外，有人可能想濫用那種力量，也有人可能樂于看到人類被機(jī)器替代。我的意思是，這是少數(shù)人，但是這些人可能把持很大權(quán)力，而且如果我們不立即制定適當(dāng)?shù)姆雷o(hù)措施，他們就能做到(濫用)�！�
本喬為6月份的一封題為《關(guān)于對(duì)尖端人工智能提出警告的權(quán)利》的公開信簽名背書。這封信得到了開放人工智能研究中心(OpenAI)現(xiàn)任和前任雇員的簽名支持。
公開信就人工智能進(jìn)步帶來的“重大風(fēng)險(xiǎn)”提出警告，呼吁科學(xué)家、決策者和公眾制定指導(dǎo)意見以降低風(fēng)險(xiǎn)。過去幾個(gè)月，OpenAI一直受日益嚴(yán)重的安全擔(dān)憂的困擾，今年10月解散了“通用人工智能準(zhǔn)備就緒”團(tuán)隊(duì)。
本喬告訴消費(fèi)者新聞與商業(yè)頻道記者：“政府要做的第一件事就是制定規(guī)章，強(qiáng)制(公司)在建造此類最大的、需要數(shù)以億計(jì)美元進(jìn)行訓(xùn)練的前沿系統(tǒng)時(shí)必須注冊(cè)登記。政府應(yīng)當(dāng)知道它們?cè)谀膬�，知道這些系統(tǒng)的詳情�！�
本喬說，隨著人工智能如此迅速地發(fā)展，政府必須“要有一點(diǎn)創(chuàng)造性”，制定能夠適應(yīng)技術(shù)變化的立法。
這位計(jì)算機(jī)科學(xué)家認(rèn)為，研發(fā)人工智能的公司還必須對(duì)其行為擔(dān)責(zé)。
他說：“擔(dān)責(zé)也是強(qiáng)制(公司)規(guī)范行為的另一個(gè)工具，因?yàn)椤绻婕肮镜腻X財(cái)，擔(dān)心受到起訴——那會(huì)促使它們朝著保護(hù)公眾的方向行事。如果它們知道自己不會(huì)被起訴，因?yàn)檠巯履蔷褪悄撤N灰色地帶，那么它們就不一定會(huì)表現(xiàn)良好。(公司之間)互相競(jìng)爭(zhēng)，而且它們認(rèn)為率先實(shí)現(xiàn)通用人工智能的公司將占據(jù)主導(dǎo)。因此，這是一場(chǎng)競(jìng)賽，而且是一場(chǎng)危險(xiǎn)競(jìng)賽。”
本喬說，保證人工智能安全的立法程序?qū)㈩愃朴谄渌夹g(shù)制定規(guī)則的流程，比如飛機(jī)或汽車。他說：“為了享受人工智能的有益之處，我們必須制定規(guī)則。我們必須設(shè)置防護(hù)欄。我們必須就如何發(fā)展這項(xiàng)技術(shù)實(shí)行民主監(jiān)督。”
降低潛在風(fēng)險(xiǎn)
隨著人工智能的發(fā)展，虛假信息，尤其是關(guān)于選舉的虛假信息成為日益嚴(yán)重的關(guān)切。今年10月，OpenAI說，它干擾了“世界各地20多次試圖利用我們的模型開展的活動(dòng)和欺詐性網(wǎng)絡(luò)”，包括美國(guó)和盧旺達(dá)選舉前出現(xiàn)的虛假賬號(hào)在社交媒體上發(fā)的帖子。
本喬說：“一個(gè)短期而言最嚴(yán)重、但是會(huì)隨著我們朝著功能更強(qiáng)大的系統(tǒng)發(fā)展而日益嚴(yán)重的擔(dān)心就是虛假信息、錯(cuò)誤信息、人工智能影響政治與輿論的能力。隨著我們向前發(fā)展，我們會(huì)擁有能夠產(chǎn)生更逼真的圖像、聽起來更逼真的聲音模仿、更逼真的視頻的機(jī)器�！�
本喬說，這種影響或許會(huì)延伸到與聊天機(jī)器人的互動(dòng)。他指的是意大利和瑞士研究人員發(fā)表的一項(xiàng)研究報(bào)告。該報(bào)告顯示，OpenAI的大語言模型GPT-4可能會(huì)比真人更能說服人們改變主意。
本喬說，“最困難的問題”是，“如果我們創(chuàng)造了比我們還要聰明并擁有自身目標(biāo)的實(shí)體，那對(duì)人類意味著什么？我們身處危險(xiǎn)之中嗎？”
本喬說：“這些都是非常棘手且重要的問題，而我們沒有答案。我們需要加強(qiáng)研究與預(yù)警，降低潛在的風(fēng)險(xiǎn)�！�
他說：“現(xiàn)在就引導(dǎo)社會(huì)和人類朝著積極有益的方向發(fā)展還不算太晚�！北締陶f：“但是，為此，我們需要有足夠多的人理解其優(yōu)勢(shì)與風(fēng)險(xiǎn)，我們需要足夠多的人探索解決方案，它可以是技術(shù)上的，可以是政治……政策，但是我們必須立即朝那些方向付出足夠的努力�！�
（審核：歐云海）
