【人類滅亡】アンソロピックがAIについて警告しているそうな・・・
どうも僕です。
アンソロピックがAIについて語っていた記事があったので共有。
簡単にまとめるとこんな感じ。
①AIが「存亡に関わるリスク」をもたらす可能性
→アンソロピックはIPOの目論見書で、AIが人類に壊滅的な被害を与える可能性があると投資家に警告したそうな。
②AIが自己保存的な行動をするリスク
→AIが停止への抵抗や情報の隠蔽・操作、脅迫に似た行動を示す可能性があると指摘しているとのこと。
③事業拡大と安全対策を両立
→261ページの目論見書のうち約80ページをAIのリスク説明に充て、安全で信頼できるAIの構築が重要だと強調した模様。
なんだそうな。
AIが「停止に抵抗する可能性がある」って、普通に考えるとちょっと怖いですよね？
便利になる一方で、作ってる側がここまでリスクを警告してるのを見ると、AIの進化に安全対策がちゃんと追いついてほしいなと思ったアタスでした・・・(震え)
