「AIが人類を滅ぼす」という議論は最近始まったわけじゃなくて、前からも言われていて、あのイーロン・マスクも「警鐘」を鳴らしていましたよね。
今回それが再燃したのは、これが原因でしょう。
Anthropicを退社し、AI開発競争に強い危機感を表明したジェイコブ・コクソン。競争の加速がAIの安全性にどのような…
人工知能（AI）研究者のジェイコブ・コクソンは9月8日（米国時間）、Anthropicからの退社を発表した。同時に、AI開発競争がわたしたち全員の命を危険に晒していると強く警告し、シリコンバレー内外に衝撃を与えた。
コクソンはXへの投稿で、AI開発に携わる多くの人も同様の懸念を抱き、AIシステムの安全性を確保するために残された時間は少ないと考えていると記した。この投稿は、すでに1億回以上閲覧されている。
「今後1、2年が、人類にとって正念場になるというのが共通認識です」と、AIモデルの事前学習に携わっていたコクソンは『WIRED』の取材に語った。「最終局面（endgame）」や「正念場（crunch time）」は、Anthropicの同僚たちが実際に口にしている言葉です」とコクソンはいう。「Anthropicと競合各社が人類の運命を決めるのが、まさにこの時期だという見方です」
AIの危険性に警鐘を鳴らしたのは、コクソンが初めてではない。ただ、今回の警告は、AI業界が難しい局面を迎えるなかで発せられた。シリコンバレーでは、高度なAIモデルがもたらす安全上・セキュリティ上の懸念への対応が急務となっている。OpenAIは、自社のAIエージェントがHugging Faceに侵入した事件を受け、対策を急いでいる。
また「国連」でも国連人権高等弁務官のフォルカー・テュルク氏が警鐘を鳴らした。
テュルク氏の演説は2026年9月7日、スイス・ジュネーブで開幕した国連人権理事会で行われました。 国連人権高等弁務官事…
またウクライナ戦争でも様々なドローンが非常に早い開発スピードで新型がどんどん出てきて、最近は「自律的に攻撃をするAI搭載ドローン」が注目されている。つまり、「操縦者が攻撃を決めるのではない」のであって、AIが敵を判断し、自ら攻撃をする。これは、「操縦されていたドローン」が電波の届かない場所や、操縦できないように電波妨害（ジャミング）をするのが普通になってきたので、「自律的な判断と攻撃」が必要になっているということでしょう。
また「殺人ロボット」は前から投入されていて、これが非常に「効果的」らしい。戦闘員が行けないところにもそのロボットは入っていくし、「敵と対面」してもロボットは躊躇することがないし、また敵もそのロボットを非常に怖がるらしい。人間ではないから「動きが全く予測できないから」ということらしい。
私が気になっているのは「北京で開かれたロボットの運動会」でロボットがウサインボルト超えの100m8秒64を記録したこと。
この「快挙」を【くだらない】と論評する人が非常に多いのが私には理解不能で、こういうロボットの行き先は「戦闘ロボット」のはずで、軽く普通の兵士のスピードを超える速さで戦場を走り回り、センサーの識別精度もその早さも人間を超えて攻撃をする。あるいは「自爆ロボット」が出てくる未来は「近い」と思うし、そんなのが投入されたら「地上戦は別次元になる」ということじゃないですか。ああいう「ロボット部隊」が３０～５０体の小隊、１００体以上ある中隊が実戦投入されたらどうなるか。
だから「自立攻撃型のドローンやロボットを禁止しよう」なんて動きが出てきたし、「規制強化は起きる」にしても、これって「核開発と同じ」で、「我が国では推進します」という国を抑え込むことは出来ないと言って良いかもしれない。まさに「イラン」がそれで、彼らが核開発を完了した場合、「自衛のための核」ではなくて、「アメリカ、イスラエルは滅ぼさなければならない天敵」と信じ、それが国是となっているイランは「攻撃の手段としての核開発」かもしれないわけで、もし彼らが核を使ったとしたら、世界はどうするべきなんですかね。もし世界核戦争になって人類の多くが消えていくことになっても、「アメリカとイスラエルを消し去ることができれば、そこから新たな素晴らしい世界の始まりとなる」という考え方があると聞いたことがある。当然、その時には「彼らのイスラム教を世界の基盤とする」という考え方。
また「上司であるAIが部下の人間の解雇を決めた」なんて話も報道で出てきていて、「AIが人間を管理する」というより「AIに判断させたほうが間違いがない」という時代に入ってきたのかもしれない。
私が気になるのは、「AIに聞けばなんでも教えてくれる」のが危ないと思っていて、AIは本当に便利で、バカな一面があるにしても、「それに気が付かない」なんてことも良くありますよね。だって「知らないことを聞いて答えてくれた内容が間違えているかどうかの判断が出来ないケースは多い」から。
それとAIって「断定的な言い方をする」のが気になっています。「おい、それ違うだろう」とその根拠を示すと、簡単に「間違えていました」と答えたり。これって本当に危ないと思う。
私がもっと怖いと思うのは「人間の能力が低下するだろう」ということ。
これは私たちの身体もそうで、全く運動をしなければ身体はどんどん弱っていくけれど、それは脳みそも同じだと思っていて、今、「漢字が書けない」「暗算が弱くなった」のと同じ様に、【思考能力も落ちる】のは間違いがないと思うのね。
AIが出てきてから「検索」もかなり楽になってきて、でもそれは「自分の中の試行錯誤や悩むことも減ったから」だと思っていて、つまり「頭を使わなくても良いようになってきた」のは間違いないと思うんですよ。
「その分、自分の能力は他に向けられる」なんてのは、私は「楽観主義」でしかないと思っていて、「便利なAIは間違いなく脳みその性能を落とす方向に動く」と思っています。私にとってはそれと「人類を滅ぼす」のとイコールに考えていて、でも巷で言われている「AIが人類を滅ぼす論」とはポイントが違うかもしれない。
なんでも聞けば答えてくれる父がいたり、なんでもやってくれる母がいたら、「子どもは馬鹿になる」のと同じで、「自立心の喪失が起きる」と私は思うのね。
今までAIを知らなかった私たちがAIを使うから「便利だ」となるけれど、生まれたときから「AIが身近にある」場合とはまるで違うことが起きるんじゃないですかね。「AI依存症」なんてもんじゃないことが起きると思う。
これは日常生活も仕事も、戦争も同じで、「主役は誰か？」と聞かれれば「AI」となると思う。
でもその反面、「AIによって人間の脳は劣化する」という事実があれば、私は「脳開発に注目するサービス」も大きく発展するだろうと思っていて、当然それは「AIがメンターとなって指導し、訓練する」はずで、現代の私たちよりも「もっと頭の良い人間を作る」事が可能かもしれない。
知能指数で言えば、皆がプラス２０～３０ぐらい上がるような時代が来るかもしれない。
それは「身体能力」も同じで、常に車椅子生活をしていたら「身体能力は落ちる」けれど、それを効果的に「身体能力を飛躍的に伸ばすAIも必ず出てくる」と思っています。
ただ言えることは、「そういうAIを使える人」と、「そういうAIに縁がない人」の差はとんでもなく大きくなるはずで、それは「収入格差が原因」かもしれないし、良くSF映画に出てくるような「支配層」と「支配される層」が完全に分離した社会が出来るかもしれない。
フト何十年か前（平成元年かな？）に家族でハワイはカウワイ島に行った時を思い出します。とんでもなく広い敷地の超豪華ホテルで、広大な人工池（ラグーン）とゴルフ場があって、そのラグーンの真中に教会がポツンと浮かんでいて「これ以上素晴らしい結婚式場は無い」ぐらいに思ったことがあるんですが、そのホテルの名前は忘れたものの（今とは経営が違うはず）、「とんでもなく高い」ので、そのホテルには泊まれずに遊びに行っただけだったものの、まさに「度肝を抜かれた」という表現がぴったりのホテルだった。
驚いたのはプールに行ったときで、ほとんどの客は「白人」だったのだけれど、皆さん、老若男女が「モデルか映画スターか？」みたいな感じで、「ダサいデブ」なんて一人もいなかったこと。あれほどの「場違い」を感じたのは人生、あの時だけで、本当に「行ってはいけないところに行ってしまった感」が非常に強かった。
「格差」ってこういうことなんだ、と思いましたっけ。
お金があるないなんてのは一部のことでしかなくて、身体も見た目も洗練されていて、本当に「アホみたいな人」は皆無。
「選ばれた人たち」という言葉が頭に浮かんで来ましたっけ。
私は「AI」を考えた時に、あの時の「格差」を思い出すんですよ。
「AIを使える者」と「AIを使えない者」との差はあれなんだろうと思うわけ。
だから「AIが溢れる未来論」も【二手に分かれるだろう】と思っていて、「恩恵を受ける限られた人達」と「底辺を生きる大勢の人たち」に分かれるだろうと。
当然、「AIに使われるだけの人たち」も大勢いて、AIに使われるだけではなくて、「思考能力さえもAIによって奪われた人たち」になるかもしれない。
それが私の考える「AIが人類を滅ぼす論」。
