AI教父" Geoffrey Hinton因擔憂AI技術風險辭去谷歌職位

2023年5月05日 09:54

Geoffrey Hinton 從谷歌辭職

Geoffrey Hinton，一位著名的人工智能研究者和“人工智能之父”之一，已從谷歌辭職，并對人工智能技術的持續(xù)發(fā)展?jié)撛诘娘L險發(fā)出警告。Hinton在給紐約時報的聲明中證實了他從谷歌的辭職。目前尚不清楚他與谷歌首席執(zhí)行官Sundar Pichai的具體討論細節(jié)。

Hinton因其在神經網(wǎng)絡方面的開創(chuàng)性工作獲得了“計算機界的諾貝爾獎”——圖靈獎。作為“三位人工智能教父”之一，Hinton與其他兩位合作伙伴共同獲得了2018年圖靈獎，以表彰他們對當前人工智能繁榮所做的基礎性貢獻。

然而，現(xiàn)在的Hinton對自己投入一生的研究感到遺憾。根據(jù)紐約時報的采訪，Hinton現(xiàn)在終于可以討論人工智能技術背后的風險了。在谷歌工作十多年的Hinton表示，“我總是用這樣的借口安慰自己：即使我不做，其他人也會這樣做。但目前我真的不知道如何防止壞人利用人工智能來作惡。”

虛假信息的傳播只是Hinton目前想強調的風險之一。從長遠來看，他擔心人工智能會徹底消除所有需要大量記憶的工作，并隨著它逐漸編寫和運行構成自身代碼，人工智能最終可能取代人類。

在接受BBC采訪時，Hinton甚至提到人工智能聊天機器人已經構成了“相當可怕”的威脅。他告訴BBC：“據(jù)我所知，目前的信息技術還不如我們聰明，但我相信它們很快就會超越人類。”

此外，Hinton博士承認他離開谷歌也有年齡方面的考慮，他告訴BBC：“我已經75歲了，是時候退休了。”

總的來說，Hinton的辭職和對人工智能技術潛在風險的警告引發(fā)了廣泛關注，因為他是人工智能領域的重要人物，并且他的看法和觀點對該領域的未來具有重要影響。

Geoffrey Hinton：GPT-4 等模型

已擁有超越人類知識儲備的能力

Hinton 博士是人工智能領域的開創(chuàng)者，他的研究為當今的 AI 系統(tǒng)，如 ChatGPT，鋪平了發(fā)展道路。

神經網(wǎng)絡是 AI 領域中一種與人腦相似的處理和學習信息的系統(tǒng)。正是神經網(wǎng)絡讓 AI 能像人類一樣從經驗中學習，這是深度學習的概念。

Hinton 博士和他的兩名學生創(chuàng)辦的公司被谷歌收購，Hinton 博士也因此加入了谷歌。他們開發(fā)了一套神經網(wǎng)絡，在分析數(shù)千張照片后，它成功學會了識別狗、貓、花等物體。這項工作最終促進了 ChatGPT 和谷歌 Bard 的誕生。

Hinton 博士說，聊天機器人很快就會超過人類能容納的信息水平。他表示，現(xiàn)在的 GPT-4 等模型已經擁有遠超人類的知識儲備，雖然在推理方面還不夠好，但 AI 已經具有簡單的推理能力，并預計情況將很快改善。

Hinton 博士在一篇《紐約時報》文章中提到了那些想用 AI 做壞事的人，他在采訪中進一步解釋說，這是最糟糕的情況。

對于 Hinton 博士的看法，專家們給予了不同的評價。一些人認為，AI 的快速發(fā)展構成了一種巨大的威脅，需要立即采取行動。而另一些人則認為，AI 對人類有著重要的貢獻，可以用來解決一些嚴重的問題。

無論如何，人們都同意 AI 需要得到妥善的監(jiān)管，以防出現(xiàn)不良后果。AI 的發(fā)展速度非常快，因此必須在它安全與控制方面緊急投入更多資源。

AI 是一個令人興奮和激勵的領域，但同時也需要小心防范。如果我們能夠在保護人類利益的同時，實現(xiàn) AI 的潛在潛力，那么未來的前景就非常光明。

Geoffrey Hinton 反駁 AI 開發(fā)暫停呼聲

許多專家對 AI 的發(fā)展速度和方向表示擔憂，其中包括 2018 年圖靈獎獲得者 Yoshua Bengio。3 月份，AI 領域數(shù)十人共同簽名，呼吁暫停比當前版本更先進的 AI 模型開發(fā)，以讓出時間實施更嚴密的安全控制。

但 Hinton 博士告訴 BBC，在短期內，他認為 AI 帶來的好處仍然多于風險，因此不必暫停 AI 模型的開發(fā)。他指出，目前 AI 已引發(fā)國際軍備競賽，因此暫停開發(fā)將面臨困難。

Hinton 博士強調，他只是科學專家，不是政策專家，政府有責任確保 AI 的開發(fā)考慮到如何防止濫用。

“谷歌對 AI 的負責任態(tài)度”

Hinton 博士在 Twitter 上對他在紐約時報的采訪進行了澄清，他表示離開谷歌并不是因為對公司不滿，而是為了討論 AI 的風險。Hinton 博士強調，他不想批評谷歌，這家科技巨頭已經“非常負責任”。

谷歌首席科學家 Jeff Dean 通過一份聲明表示，谷歌仍將繼續(xù)采取負責任的態(tài)度對待 AI，不斷學習和研究新出現(xiàn)的風險，同時大膽創(chuàng)新。

盡管目前 ChatGPT 主要是一個文本聊天機器人，但它背后蘊含的潛力是巨大的。AI 技術正在以驚人的速度發(fā)展，令其創(chuàng)造者們也感到驚訝。谷歌 CEO Sundar Pichai 甚至承認，他也無法完全理解他們的 AI 聊天機器人 Bard 的全部潛力。

因此，我們正處在一段充滿未知的旅程中，但重要的是要始終保持負責任的態(tài)度。

人工智能（AI）的快速發(fā)展令人驚訝。例如，通用人工智能（AGI）已經可以通過訓練完成各類任務。盡管目前的 ChatGPT 主要是通過查詢向用戶提供文本答案，但它同時也隱藏著無窮的可能性。

2012 年，Hinton 博士創(chuàng)建了開創(chuàng)性的圖像分析神經網(wǎng)絡，從那以后，AI 世界已經發(fā)生了巨大的變化。就連谷歌的 CEO Sundar Pichai 也表示，他也無法完全理解公司的 AI 聊天機器人 Bard 所能做到的事情。這說明，我們正在一個快速發(fā)展的領域前進，它可能有一天能夠獨立建造軌道。