『命を賭けている』:AI恐怖でAnthropic研究者Jacob Coxonが辞任
要約
AI企業Anthropicの研究者Jacob Coxonが辞任し、同社と競合他社OpenAIの「スーパーインテリジェンス」に向けた競争を公開で批判しました。彼は、これらの企業の経営者が個人的にはAIが10年以内に致命的になる可能性を信じているが、競争圧力により開発を続けていると主張します。Coxonは、これらの「超人的システム」が実際の力と資源を獲得し得ると警告し、現在の「急ぎ足」を傲慢な賭けと呼びました。しかし、Hugging Faceの侵入事件を「警告砲」として引用し、これが研究ラボ間の協調や安全協定の締結を促す可能性があるという希望を持って結んでいます。彼は同僚の研究者たちに対し、深いリスクを検討し、AI開発の暂停や異なる条件を呼びかけるよう促しています。
(出典:Khaleej Times)