AI教父辛頓:30年內AI使人類滅絕可能性10%到20%

發佈日期:2024-12-28
AI教父辛頓:30年內AI使人類滅絕可能性10%到20%

辛頓認為,未來30年內有10%到20%的可能性出現AI導致人類滅絕的結果。

(圖為AI示意) 圖:COPILOT AI生成 /曾郡秋 製 「人工智慧(AI)教父」辛頓(Geoffrey Hinton)認為,未來30年內有10%到20%的可能性出現AI導致人類滅絕的結果;他警告,科技變革的速度比預期要「快很多」。

辛頓今年因在AI方面的貢獻而獲頒諾貝爾物理學獎。

英國「衛報」(The Guardian)報導,辛頓曾說,對人類而言,AI科技有10%的可能性引發災難性後果。

英國廣播公司第4電台(BBC Radio 4)「今日」(Today)節目詢問他對可能出現的AI末日和10%的發生機率分析是否有變時,他說:「沒什麼變,10%到20%。

」 節目客座編輯、前衛生大臣賈維德(Sajid Javid)說「機率增加了」,辛頓答道:「如果一定要說,你看,我們以前從未和比我們聰明的東西打交道。

」 他補充說:「你知道有多少例子是一個較聰明的東西被一個較不聰明的東西控制?這種例子很少。

以一個母親和一個嬰兒為例,演化費了很大力氣讓嬰兒控制母親,但那是差不多我唯一知道的例子。

」 辛頓說,人類與強大AI系統的智慧相比,就像學步的幼兒,「我喜歡這麼想:想像你自己和一名3歲小孩;我們就是那個3歲小孩」。

辛頓去年辭掉在谷歌公司(Google)的工作,以更暢快地談論AI發展不受控制所構成的風險。

AI安全倡議人士的主要疑慮之一是,創造通用AI或比人類更聰明的系統,可能導致這項技術脫離人類掌控,危及人類存亡。

他說,現在的狀況是多數專家認為或許能在未來20年內開發出比人類聰明的AI,「這是很恐怖的想法」。

他認為,研發AI的速度「非常、非常快,比我原本預期要快很多」,政府必須監管這項技術。

他說:「我擔心的是,看不見的手無法保障我們的安全,所以只將問題交給大企業的利潤動機,不足以確保這些公司安全地研發(AI)…唯有政府監管能迫使這些大企業從事更多安全研究。

」 不過,網路科技巨頭Meta的首席AI科學家勒昆(Yann LeCun)不認為人類面臨存亡威脅,反而說AI「實際上可能拯救人類免於滅絕」。

勒昆2019年與辛頓、班吉歐(Yoshua Bengio)一起獲得有「電腦界諾貝爾獎」之稱的年度圖靈獎(Turing Award)。