Claude Mythosの怖さ

Mythosが告げるフェーズシフト：2026年はAGIピル元年になるか

AIがAI自身を改良するフィードバックループによって、数百年分の科学技術の進歩がわずか10年に圧縮される「技術爆発」。ロボットがロボットを作る自己複製によって、物理的な産業基盤が爆発的に拡大する「産業爆発」。この二つが互いを加速し合った結果、AGI開発からわずか10年程度で人類文明が根本的に変容しカルダシェフ・スケール文明へ移行する——いわゆる「シンギュラリティ」が、SF的な空想ではなく科学的蓋然性として語られ始めている。

妄想？と思うかもしれないけど、もう少し粘って読んでほしい。

結論から言えば今後数年は強化学習のパラダイムが続き、性能向上が続く可能性が高く、26年末までにAnthropicのいうような強力なAI（ノーベル賞級の成果を出すAI）が実現する可能性も否定できない。強力なAIの実現の可能性が高くなくても、来年は2025年にdeepresearchが出て、コーディングAIの実用性が大きく高まったのと同じくらいの性能飛躍が引き続き見られると思われる。
また2030年まで計算資源のスケーリングは続く（1兆ドル前後のスケール）と思われる。2027年末までに現在のgpt5の学習量の1000倍のオーダーが費やされることを鑑みると、この数年（2026-2027）がもっとも能力向上幅が高いと思われるが、その後も引き続き性能向上のトレンドは続く可能性が高いだろう。

2025年9月16日にEliezer YudkowskyとNate Soares著作の「If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All」が出版された。その著作は2026年4月頃邦訳が出版されるという話があるが、ひと足さきに日本語で読みたい方は要約を書いた。

要約前置き

AGIが実現したのちに、1年未満で超賢いAIになり(知能爆発)、100年の進歩を少なくとも10年以下で達成し技術を爆発させ、産業を爆発させる(実質の世界総生産成長率が今の3%から30%以上になる)という議論がここ数年で説得力と詳細さを増している。（AGIピルという世界観）

AGIピルというわずか数年以内に開発される人間のできることならほぼなんでもコストパフォーマンス良く実行可能なAIシステムが、宇宙規模の産業爆発や国家安全保障、人間の絶滅などの極端な人類史規模の世界の変化をもたらすと言う世界観を初めて日本語で紹介しました。

割と真面目に多くの人が今後3-5年で死ぬ可能性があり、やり残したこと、やりたいことをもうやっておいた方がいいかもしれないと感じる。目の前の作業を傍に置き、人に感謝を伝えたり、旅行に行ったり、友達とくだらないことで笑ったり、やってみたいゲームをして本を読んでみたり。

※ちなみにこういう気分になれるシナリオとして2年後に人類人口の97%がAIにより死亡するシナリオが最近Lesswrongで出されており、読むのをおすすめする。

2024年6月末にはOpenAIは香港を含む中国のデベロッパーに対し、同社のAPIプラットフォームへのアクセスを禁止した。

AGIを巡る国家安全保障に対して私が最近思っていること

・マイクロソフトの株価は600ドル以上。

・エヌビディアの株価は210ドル以上。

オープンソースの規制

下手をしたら来年か再来年には人間のトップAI研究者に比肩するAIシステムが開発される可能性もあるのではないか・・・？と。

もうすぐ人間のできる殆どの認知タスクを凌駕するAIシステムが誕生するというのは文化的には何十年も前から語られていたことだし、今年の2024年6月に公開されたLeopold Aschennbrener氏のエッセイを読めば2027年末までにはAGIが開発される可能性があることは理解できた。

DMで「Breach X」というX公式を模したアカウントに著作権侵害の疑いがあるため必要事項をフォームに記入してくださいときて、うっかりXのログインと間違えてパスワードを入力してしまいました。

例えば、若い世代は経済の低迷や終身雇用制度の崩壊により、安定してなおかつ十分な給与を得られる職につくことが難しくなり、一方で高齢者世代は比較的安定した年金制度の恩恵を受ける。