比爾蓋茲警告AI遭惡意利用恐引發極端災難 籲美國政府立法監管

 - 08:50
Updated: 1 month ago
source 比爾蓋茲警告AI遭惡意利用恐引發極端災難 籲美國政府立法監管

重點整理

  • 比爾蓋茲在專訪中警告,AI若遭惡意利用,極端情境下可能推動造成10億人死亡的事件。
  • 比爾蓋茲強調單靠企業自律不足,呼籲美國政府透過立法建立明確的AI安全防護與監控機制。
  • Anthropic執行長阿莫戴主張放慢前沿AI發展速度,並提出由政府與第三方介入監督的政策框架。
  • 川普、眾議院議長強生與科技業高層預計於9月29日舉行AI會議,探討相關政策與監管走向。

事件背景

隨著人工智慧模型能力快速提升,部分AI模型在情報分析及傳統武器開發等相關任務上,已能完成過去需要高度專業人力才能處理的工作,進而增加了遭到濫用的風險。根據Anthropic近期公布的威脅情報報告,生成式AI已被部分惡意行動者用於提高工作效率與規模,範圍涵蓋網路攻擊、監控、詐騙到生物及武器相關活動。在此背景下,微軟共同創辦人比爾蓋茲於美國NBC《Meet the Press》專訪中,將AI風險的討論範圍拉高,指出當AI工具被具有惡意目的的人掌握後,可能放大高風險活動的影響,並以「10億人死亡」來描述極端情境下的潛在威脅。

為何重要

比爾蓋茲的警告凸顯了AI能力快速成長與現有監管制度之間的落差,促使AI安全從單純的科技議題正式延伸至美國國家政策與社會治理層面。目前美國華府對於AI監管的介入程度仍存在明顯分歧:部分政治人物如川普曾表達反對過度限制AI發展的立場,認為需維持美國在該領域的競爭力;另一方面,部分AI產業領袖及政策人士則強烈主張面對前沿模型帶來的風險,必須建立政府層級的監督與安全標準。未來如何界定高風險系統、由誰進行獨立評估,以及在防範極端風險與維持企業研發競爭力之間取得平衡,將成為美國AI政策攻防的核心焦點。

您對這篇文章有什麼看法?

讚 讚 0
不喜歡 不喜歡 0
喜愛 喜愛 0
哈哈 哈哈 0
哇 哇 0
難過 難過 0
憤怒 憤怒 0