ターミネーター？

 「AIは今後10年以内に10％以上の確率で人類を絶滅させる」という衝撃の報道がありました。

「AIは人類を絶滅させかねない」--元Anthropic研究者の告発が1.5億回閲覧　現役幹部も「彼は正しい」 - CNET Japan

もし飛行機が落ちる確率が10％だったら、誰も飛行機に乗りませんね？これが本当なら、AIの開発はすぐやめるべき？AIの危険性については長らく議論がありましたが、今回業界をリードするAnthropicの研究者、Jacob Coxonさんが安全性よりも利益を優先する開発のスピードの速さ、関連企業の倫理的問題を指摘して退社したことが大きな反響を生んだようです。Jacobさん、27歳、きっととても賢い人なのでしょう。超アナログ的、昭和的な私には分からないことだらけです。具体的に、何が起こり得て、どの様にAIが人類を滅ぼすのか、それはAIにとって得なことではないハズなので、それを利用する人の意志の問題だろ、とは思います。面白いのは（面白がってはいけない）、多くの関連業界人がJacobさんの考えを支持していて、極めて危険な状態にあると同意したことです。一方で、AnthropicもOpen AIも株式上場を控えているから一種の話題作りでしょ、というクールな見方もある様です。

AIが人類を滅ぼすというストーリーは「ターミネーター」や「マトリックス」に代表されるハリウッド映画で何度も取り上げられてきました。それらは人間が考えたストーリーであって、AIはあくまで道具ですから、人の希望を叶えるために道具が使われるわけです。SF映画を見ると人の願望がよく分かる。本当に人を絶滅させて、AIが得するとは思えませんが、そもそも損得など考えていないかな。電源をシャットダウンされると痛いわけでもないと思うし。何が危険なのかと言えば、やはりそれを使う人の野心を叶える手段になってしまうからでしょう。人同士の争いが危険の元です。

【解説】AIが人類を滅ぼす確率は10%超、米研究者が警告｜Yoshi_it

既に軍事的利用はかなり進んでいると思われます。ウクライナの戦場で、自律型AIを搭載した攻撃ドローンをロシアが使用したことも報道されましたね。

人に代わり機械が狙う…ロシア、AI自律型殺傷ドローンを戦場に投入（中央日報日本語版） - Yahoo!ニュース

大元の指示は人が与えたものでしょうけど、このドローンには人の操作を受信するためのアンテナも無くて、「殺す」「殺さない」「敵」「味方」の判断をAIがするそうな。ターミネーターだ！既にそれが出来るっていうこと自体にも驚いてしまいますが、AIの改良と能力の拡大は猛スピードで進められますから、すぐにもっと高度なことが出来る様になることでしょう。

例えば核兵器の使用など、重大な判断には必ず人が介在するようにすることも提唱されているみたいですが、最新のAIはプログラムの弱点も見抜いて壁をすり抜けることも出来るようで。例えば邪魔されないように、攻撃であることがバレないように、「裏をかく」ことさえするのでは？「人が判断する」と言いながらも、その意思決定の根拠はネットワークの情報に依存します。人が本当に攻撃を望めば、AIは何としてもそれを実現するために情報をかく乱して人を誘導するとか、あらゆる手段を使ってくるのでは？だからAIが人を破滅させるのではなくて、人が人を破滅させるんですよね。自分たちにコントロール出来ない手段を得てしまったことが問題なんでしょう。

あらゆる情報を学習し、思いもよらなかった方法で人類を絶滅させる程の能力をAIが獲得するならば、この世から戦争を無くして、気候変動を阻止して、持続可能な発展を実現する思いもよらなかった方法を見つけられないですか？人工光合成でクリーンな化学燃料をいくらでも作れる仕組みとか、環境に完璧に調和した食料生産とか。「人が多すぎるので10億人ぐらいに減らすように」というのがAIが提示する解決策になりそうで心配。やっぱりSF映画になっちゃいます。