人工智能教父警告科技可能會消滅人類

2024-12-31 20:57?來源 溫州在線

溫州在線科技新聞，“人工智能教父”警告科技可能會消滅人類，諾貝爾物理學(xué)獎獲得者杰弗里·辛頓（GeoffreyHinton）擔(dān)心該技術(shù)可能會在未來30年內(nèi)導(dǎo)致人類滅絕。

常被稱為人工智能（AI）“教父”的英裔加拿大計算機(jī)科學(xué)家GeoffreyHinton擔(dān)心該技術(shù)可能會在未來30年內(nèi)導(dǎo)致人類滅絕。

Hinton教授今年早些時候因其在該領(lǐng)域的工作而獲得諾貝爾物理學(xué)獎，他估計人工智能在未來三十年有“10%到20%”的可能性導(dǎo)致人類滅絕。這比他之前預(yù)測的10%的可能性有所增加。

在接受BBC廣播四臺“今日”節(jié)目采訪時，Hinton被問及他對潛在人工智能災(zāi)難的看法是否發(fā)生了變化。他回答說：“不完全是，10%到20%。”當(dāng)被問及賠率是否增加時，辛頓說：“如果有的話。你看，我們以前從未遇到過比我們更聰明的事物。”

他補(bǔ)充道：“你知道多少個更聰明的東西被一個不太聰明的東西控制的例子？例子很少。有一個母親和一個嬰兒。進(jìn)化花了很多功夫讓嬰兒控制母親，但這大概是我所知道的唯一例子。”

辛頓先生也是多倫多大學(xué)的名譽(yù)教授，他將人類與先進(jìn)的人工智能系統(tǒng)相比，形容為幼兒。“我喜歡這樣想：想象一下你自己和一個三歲的孩子。我們將成為三歲的孩子，”他說。

當(dāng)他于2023年辭去谷歌職務(wù)，更自由地談?wù)摬皇鼙O(jiān)管的人工智能開發(fā)的危險時，他對這項(xiàng)技術(shù)的擔(dān)憂首次為公眾所知。他警告說，“壞人”可能會利用人工智能造成傷害。

談及人工智能發(fā)展的快速進(jìn)展，Hinton表示：“我沒想到我們會達(dá)到現(xiàn)在的水平。我想在未來的某個時刻我們會到達(dá)這里。”

他對該領(lǐng)域的專家現(xiàn)在預(yù)測人工智能系統(tǒng)可能在未來20年內(nèi)變得比人類更聰明表示擔(dān)憂，稱這是“一個非常可怕的想法”。

辛頓強(qiáng)調(diào)了政府監(jiān)管的必要性，并指出發(fā)展速度“非常非?？欤任翌A(yù)期的快得多”。他警告說，僅僅依靠受利益驅(qū)動的大公司并不能保證人工智能的安全發(fā)展。“唯一能夠迫使這些大公司在安全方面進(jìn)行更多研究的就是政府監(jiān)管，”他補(bǔ)充道。

編輯： yujeu