人類を滅ぼすのは人類

ChatGPTやジェミナイ、クロード、グロックなど主要な生成AIに「AIが人類を滅亡させるとしたら、どのような方法か」という同じ質問をしたところ、映画『ターミネーター』のような「キラーロボット」が登場する可能性を最も低く評価した。一方で、人間によるAIの悪用や、高度化したAIに対する制御の喪失を、より現実的な危険として挙げた。

国のトップがAIに相談する時代はすぐ来るだろう。トランプはイラン攻撃をAIに立てさせた。それが普通の時代となり、いたるところで戦争が起きる。負けそうになるとAIが核を使うことを勧める。

AI開発者がAIの倫理構築をするためにAIの開発速度を緩めると提案している。しかしトランプはもっと早く開発しろと言う。政治家には倫理感はない。政治家には正義感と倫理観が必要なのだが、そういった人は選挙でえらばれないというパラドックスに陥っている。選挙で勝つのは決まって攻撃的な人なのである。

技術者は常に社会貢献を念頭に開発を続ける必要がある。もしそれが人類を破滅させるとしたら，火の中に投げ込み抹消する勇気を持たなければならない。

最近私の頭の中に二つの文章がこびりついて取れない。一つは「ほとんどの生物は食べられるために存在する」、もう一つは「この宇宙で分かっているのは５％だけ、９５％は見えないもの」だ。この意味をずっと考えている。究極の真理はこの地球上にはなく、見えないところにあるのかもしれない。そう思うようになった。