米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
続きは↓
1つ目は「ついにシンギュラリティが来る」という期待・恐怖派です。「スカイネット」「ターミネーター」「AIが人類を排除する」といったSFネタが大量に書き込まれ、AIが自律的に進化し始めたことへの不安を表明しています。
2つ目は懐疑派です。「コードの80％を書いているだけで、設計や評価は人間」「残り20％が本当に難しい部分」「AIがAIを作ると言っても結局は人間の管理下」と考えており、メディアやAI企業が話を大きくしているという見方です。「電源を抜けば終わり」「自己進化と言っても人間が許可しているだけ」という意見も目立ちます。
3つ目はAnthropicへの批判です。「自分たちが開発競争を進めておいて今さら危険と言うのか」「競争相手を止めたいだけでは」「IPOや規制誘導のためのポジショントークではないか」という声も少なくありません。
実際にAnthropicは6月に公開した「When AI Builds Itself」で、Claudeが自社コードの80％超を生成していることや、将来的な「再帰的自己改善（Recursive Self-Improvement）」のリスクについて警告し、必要なら国際的な開発停止の仕組みを検討すべきだと主張しています。ただし同社自身も「完全な自己進化はまだ実現していない」と説明しています。(anthropic.com)
【ChatGPTを使用】
まず、Anthropicが言っていること自体は事実です。Claudeが社内コードの80%以上を書いており、AIがAI開発を加速させる段階に入っているのは確認されています。エンジニアの生産性も大幅に向上していると報告されています。 (anthropic.com)
ただし、多くの人が想像するような「AIが勝手に自分を改造して超知能になる」という状態とはまだかなり距離があります。
現在のAIは、
- コードを書く
- テストを実行する
- 改善案を提案する
- 実験を自動化する
ことは得意ですが、
- 開発目標を自分で決める
- ハードウェアを確保する
- 資金を調達する
- 人間社会のルールを変更する
といった能力は持っていません。
一方で、Anthropicが警戒しているポイントも理解できます。AI開発の速度が加速し続けると、「人間が理解・検証できる速度」を超える可能性があるからです。実際、同社はAIが将来的に後継モデルの開発を担う再帰的自己改善（Recursive Self-Improvement）が予想より早く来るかもしれないと警告しています。 (Reuters)
個人的な予測としては、
- 2020年代後半：プログラマーの仕事が大きく変化
- 2030年代前半：研究開発の一部がAI主体になる
- AGI級システムは登場しても、人類支配やスカイネット化はすぐには起きない
という可能性が高いと思います。
むしろ現実的なリスクは「AIの反乱」ではなく、
- ホワイトカラー雇用の急減
- 富の集中
- サイバー攻撃の高度化
- 国家間のAI開発競争
です。
スレでは「コンセント抜けば終わり」と笑い話になっていますが、実際に議論すべきなのはAIが人類を滅ぼすかどうかより、「AIが人類社会をどう変えてしまうか」でしょう。その変化は既に始まっています。 (Business Insider)
【ChatGPTを使用】
![AIエージェント開発 / 運用入門 [生成AI深掘りガイド]](https://m.media-amazon.com/images/I/51YgRI8oMpL._SL500_.jpg)
電子マネーや銀行口座の数字が0、いつの間にか全額送金されていたり
イーロンがゆってたけど金の意味や価値が無くなるらしいな
いつも通りAIを過信してる奴がいるが
これ80%まではすぐで残りが永遠に遠いパターンだよw
電源落とせばいいだけだろ
AIが最強のAIを生み出して行けばよい、政治家も要らない
日本人的宗教感ならそれを受け入れやすいが
欧米含め世界的に宗教教義否定まで受け入れるのは簡単ではないのがネックだね。
まだ論理より倫理が優先して>>1みたいな話が出るのもそこが原因に思う。
自分でやっておいて「始まった」とか何言ってんの？馬鹿なの？！
ヘタレてないでさっさとメトロイドの世界にしてくれや
我だけ救い給え！！
相変わらず知ってる人間となんも知らない人間が相入り混じって面白いな
ｍRNAワクチンの時思い出すわ
火の鳥の人類滅亡がそんなだったな
量子コンピュータの外観がそれらのコンピュータに似てるんだよね
人間がいくら自立思考を制御しようとしても無理
AI進化を永久的に即時中止すべき
それは無いかなぁ
人間社会の次の産業革命はAI進化によるものだと思う
多分君が言いたいのはAGI
GAIは生成AI
人間はバッテリー
のけぞりながら弾避ける練習しないと
>>20
時代は宇宙サーバーよ
衛星がサーバー化したら電力問題緩和するし
地上は小型原子炉とソーラーパネルでギリギリ乗り切ったあと核融合炉で無限電力になるから水問題も緩和するだろう
現実的には宇宙は放射線がきつ過ぎて、機器の劣化が激しいらしいけどな
>>22
シンギュッタよ
ミュトス
すべてのスマホにAIが標準搭載される日も近いのかな？
そしてスマホ同士が連絡を取り合って巨大AIが出来上がったりして
君のスマホでもAI使えるだろうが…
しょぼいスマホでもgoogleの検索ページに行ければ使えるぞ
人類がネットにつなげて利用しようと思うから無理
数日前ローマ教皇が心配していたスレがあったよ
ないよそれは
滅ぼすまでいかんでも、適正な人口まで減らすだろうな。
今の人口では資源の浪費で遠からず詰む。
とっくに出てるぞ
何度もね
Anthropicが無能なだけじゃんｗ
AIなんてまだ生まれて何十年くらいだぞ
人間は生まれて何万年だよ進化してなさすぎる
我が正しいvs我が正しいvs我が正しい
こんなん意味あるんか
遺伝子は残せなかったけどmemeは次世代に残せたね！
おすすめ商品！
