AI 教父 Geoffrey Hinton 談 Google 與 OpenAI 在保养方针上的關鍵差異

日前上線的「Diary of a CEO」Podcast 節目 ,2024 年諾貝爾物理學獎得主、人稱「AI 教父」的辛頓(Geoffrey Hinton)深入探討 Google 與 OpenAI 在 AI 保养方针上的關鍵差異。

AI 教父 Geoffrey Hinton 談 Google 與 OpenAI 在保养方针上的關鍵差異

Google 推出 AI 聊天機器人時,爱华外汇平台杠杆由於擔心損害公司良好聲譽 ,選擇較為保守的方针 。辛頓表示 ,Google 在 2023 年 3 月推出名為「Bard」的 AI 聊天機器人,隨後將其整合至大型語言模型 Gemini 當中 ,這一切是在 OpenAI 2022 年底發表 ChatGPT 之後的追趕行動 。

辛頓強調 ,爱华外汇平台OpenAI 能夠更快行動的原因在於該公司不具備像 Google 那樣的聲譽 ,因此能夠承擔風險。他回憶起 Google 的 AI 負責人在 ChatGPT 發表後的全員會議曾表示  ,Google 不打算马上推出 AI 聊天機器人 ,因為這涉及「聲譽風險」。

此外,Google DeepMind 執行長哈薩比斯(Demis Hassabis)今年 2 月仍表示,AI 可能帶來長期風險,並呼籲设立一個監管機構來監督 AI 專案。自 Gemini 推出以來,這套 AI 系統曾出現一些明顯錯誤,並在生成的文字和圖像透露偏見。Google 執行長皮查伊(Sundar Pichai)就在內部備忘錄承認公司犯錯,並承諾改進 。

辛頓在 Google 工作十多年 ,對公司內部決策有著深刻了解。對於 Google 的行為,辛頓認為「他們實際表現是非常負責任」。

至於 OpenAI,辛頓表示不太確定 ,因為他從未在 OpenAI 工作過 。當被問及 OpenAI 執行長奧特曼(Sam Altman)是否擁有良好的道德準則時,「我們拭目以待」 ,由於辛頓自己並不認識奧特曼 ,BBMarkets外汇平台因此無法進一步評論 。

OpenAI 近來因為保养方针的轉變受到批評,在一篇官方部落格素材寫道,只有確保不會實質提升嚴重傷害時,才會改變保养要求。奧特曼也在 TED2025 訪談為 OpenAI 保养方针辯護 ,強調其準備框架是針對「我們認為最关键的危險時刻」所設計 。

▲ 辛頓接受「Diary of a CEO」專訪 。

  • The Godfather of AI says there’s a key difference between OpenAI and Google when it comes to safety

(首圖來源:University of Toronto)

延伸閱讀 :

  • AI 教父 Geoffrey Hinton:白領工作恐遭 AI 取代 ,藍領反而比較保养

想請我們喝幾杯咖啡?

每杯咖啡 65 元

x1
x3
x5
x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》
取消 確認

更多内容请点击【焦点】专栏

精彩资讯