人工智慧產業近來面對不少質疑，但 Anthropic 執行長 Dario Amodei 認為，問題並不是 AI 公司把技術風險說得太嚴重，而是大眾早已不再輕易相信企業、政府與科技產業。
這番說法是 Amodei 為了回應投資人 Gavin Baker。Baker 先前在Podcast 與 X 上批評，Amodei 對 AI 危險性的警告，助長美國社會對 AI 的反彈，尤其是針對資料中心的反對聲浪。Baker 也認為，Anthropic 支持部分 AI 監管，而 Amodei 在這場監管辯論中已經「輸掉論戰」，因此應更積極替自身產業傳遞正面訊息。
AI 負面形象不是少談風險就能解決
Amodei 不接受自己的對外論述過度悲觀。他表示，自己談論 AI 時，對風險與利益的著墨大致相當，甚至曾撰寫「充滿愛意的機器」（Machines of Loving Grace），原因正是認為 AI 產業沒有提出足夠令人振奮的願景，讓外界理解這項技術可能如何改善世界。
不過，Amodei 並未否認 AI 的形象確實出了問題。他承認，大眾目前普遍對 AI 抱持負面看法，而且這是一項重大問題。雙方真正的歧見，在於這種反感是否主要由 AI 公司高層持續警告技術風險所造成。
他把目前的 AI 反彈形容為「本質上的信任危機」，認為一般民眾對企業、政府與科技產業已有根深蒂固的不信任，經常懷疑這些機構正在設計新的方式傷害自身利益。依他的說法，這場危機已累積數十年，AI 只是最新承接這股不信任的技術。
與其說 AI 能治癌症，不如真的做出成果
相較於行銷方式，Amodei 認為 AI 公司真正應該接受的批評，是至今還沒有兌現那些宣稱能造福世界的重大承諾，而 Anthropic 也包含在內。
他以醫療願景為例指出，「AI 將治癒癌症」這類說法如今更接近陳腔濫調，已經很難真正激勵大眾。能夠改變人們對 AI 看法的方式，不是不斷重複 AI 能治癒癌症，而是有一天實際做到這件事。
Amodei 將 AI 產業的形象問題從「如何溝通」拉回「是否交出成果」。如果 AI 公司無法證明技術確實能帶來承諾中的公共利益，單純換一套更樂觀的說法，也很難消除外界疑慮。
監管不等於把 AI 交給少數大公司
Amodei 也反駁 Baker 對 AI 監管的批評。他認為，把政策選項描述成「完全不監管、廣泛散布 AI」與「透過監管把 AI 集中到少數企業手中」，是一種錯誤的二分法。
他指出，矽谷常把監管、監管俘虜與權力集中直接畫上等號，但這樣的看法過度簡化。矽谷之外也有許多人把監管理解為限制企業權力、保障一般人的工具，而 Anthropic 正因如此，才會謹慎設計政策提案。
依 Amodei 的說法，Anthropic 希望提出的規則能讓前沿 AI 公司受到較多限制、甚至放慢其發展，同時讓較小型競爭者取得相對有利的空間。背後原因是他認為 AI 本身具有讓權力集中的結構性特質。
開放權重（Open-weight）模型雖能緩解部分問題，但 Amodei 認為仍不足以成為完整解方，因為權力可能只是進一步轉向掌握最多運算能力與晶片的業者。因此，他主張適當的 AI 規則應同時處理資安、生物與模型對齊風險，限制前沿 AI 公司的權力，也為開放權重模型留下發展空間並處理其特有風險。
View this post on Twitter
參考來源：TechCrunch
评论 (0)