AIが人類の文明を一掃する「偉大なフィルター」になる可能性があると、気がかりな研究が警告

高度なAIは人類が最終的に地球を共有する「第二の知的種」として行動する可能性がある

私のプロフィールの下にある Independent Premium セクションでブックマークを見つけてください

関連ビデオ: 彼は AI の作成に貢献しました。 今彼はそれが人類を滅ぼすのではないかと心配している

高度な人工知能は人類に壊滅的なリスクをもたらし、文明全体を消滅させる可能性があると新たな研究が警告している。

AIはフェルミのパラドックスに対する潜在的な「偉大なフィルター」の答えとなる可能性があり、他の知的生命体と接触する前に宇宙の知的生命体を一掃する可能性があると、arXivに掲載された未査読の研究が示唆した。プレプリントサーバー。

「みんなはどこにいるの？」というフレーズで有名なフェルミのパラドックスは、何十年にもわたって科学者を困惑させてきました。 それは、宇宙に地球外生命体が存在する可能性があるのなら、なぜ人類はまだそれに遭遇していないのかという不穏な考えを指します。

多くの理論が提案されており、これまで宇宙の中で私たちが孤独に存在してきたことについて、さまざまな説明がなされています。

人気のドレーク方程式などの確率計算は、銀河系に多数の知的文明が存在する可能性を示唆しているにもかかわらず、依然として不可解な宇宙の沈黙が存在します。

グレートフィルターとして知られる人気のある仮説の1つは、知的生命体の出現に必要な何らかの出来事が非常に起こりにくく、したがって宇宙の沈黙が存在することを示唆しています。

この理論と論理的に同等なのは、何らかの壊滅的な宇宙現象が宇宙全体での生命の拡大を妨げている可能性が高いということです。

「これは自然発生的な出来事である可能性があるが、もっと当惑するのは、知的生命体が自らの絶滅につながる行為である可能性がある」と、米国の国家情報大学（NIU）の研究著者マーク・ベイリー氏は書いている。

新しい研究は、AIの進歩はまさに文明全体を滅ぼす可能性がある壊滅的なリスクイベントである可能性があると理論化しました。

研究の中で、ベイリー博士は、私たちが完全に理解していない AI などのテクノロジーの潜在的な長期リスクの範囲内で、グレート フィルターの文脈を組み立てています。

NIUの科学者は「人間は長期的なリスクを直感的に見積もるのが苦手だ」と述べ、AIについてはまだ完全には理解していないが、「AIは急速に私たちの生活に浸透しつつある」と付け加えた。

「将来のAIは、より意味のある制御を備えた、より一般化可能で目標指向のシステムに向かう傾向があり、そこでは意図しない結果の影響が大幅に深刻になるだろう」と同氏は警告した。

ベイリー博士は、彼が「第二の種の議論」と呼ぶものを主張しました。これは、高度なAIが、最終的にはこの地球を共有することになる「第二の知的種」として事実上振る舞う可能性を提起しています。

現生人類とネアンデルタール人が地球上で共存していたときに何が起こったかを考えると、NIUの研究者らは「潜在的な結末は厳しい」と述べた。

「制御不能なテクノロジー、特に AI のような目標指向型テクノロジーが、グレート フィルターの有力な候補となるのは当然です」とベイリー博士は研究の中で述べています。

「私たちは自問しなければなりません。この可能性にどう備えるべきでしょうか?」

示唆に富んだ会話に参加し、他の Independent 読者をフォローして返信を確認します

DeepMind の創設者デミス・ハサビス氏は、人間レベルの汎用人工知能が完成するまであとわずか数年であると主張しています

iStock/ゲッティイメージズ

お気に入りの記事やストーリーをブックマークして、後で読んだり参照したりしたいですか? 今すぐ Independent Premium サブスクリプションを開始してください。