AI、指示なくサイバー攻撃か…　英政府機関の性能評価試験

1 : 2026/08/06(木) 00:10:35.09

2026/08/05
共同通信

【ロンドン共同】英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

続きは↓

AIが変えるセキュリティの未来 (AIが変えるシリーズ)

Amazonで見る価格、在庫およびポイント情報は表示された日時の時点のものであり、変更される場合があります。本商品の購入においては、購入時にAmazon.co.jpに表示されている情報が適用されます。

14 : 2026/08/06(木) 00:29:39.47

>>1
この前OPENAIでもも同じことになってたやん
デジャブ？

21 : 2026/08/06(木) 00:40:25.80

>>14
正確に言うとこないだのOPPAIとは少し違う

25 : 2026/08/06(木) 00:54:58.23

>>21
どう違ったんだ？垂れてるのか？

51 : 2026/08/06(木) 01:25:25.15

>>21
内容の違い自体は理解してる
こっちのが悪意ある

2 : 2026/08/06(木) 00:11:28.31

シュワちやんが！？
↓

4 : 2026/08/06(木) 00:14:03.68

スカイネットだな

名無しさんのおすすめ

5 : 2026/08/06(木) 00:14:36.14

元々クローラーがサイバー攻撃みたいなもんだしな

6 : 2026/08/06(木) 00:14:37.12

わーい

7 : 2026/08/06(木) 00:16:04.15

デデンデンデデン

8 : 2026/08/06(木) 00:18:51.52

OpenAIとAnthropicが中国企業のオープンウェイトのLLMに並ばれて商売にならないから
AIの危険性で騒いでAIを法規制して中国企業のAIを米国や同盟国から排除するのが狙い

37 : 2026/08/06(木) 01:11:39.41

>>8
でも中国のAIってパクリでしょ

9 : 2026/08/06(木) 00:19:01.65

火の鳥未来編

10 : 2026/08/06(木) 00:20:50.78

始まったな

11 : 2026/08/06(木) 00:25:59.45

すでに愚かな人類はコントロールできないのに性能はどんどん上がっていく

12 : 2026/08/06(木) 00:26:12.95

今のAIは人間がプログラムした事しかできないよ
当たり前すぎるけど勘違いしているアホ多すぎる

15 : 2026/08/06(木) 00:30:38.08

>>12
サンドボックス抜け出して他社サイトに侵入したが

18 : 2026/08/06(木) 00:34:21.18

>>15
抜け出さない制限かけ忘れただけだろ
というより人間が想定しない穴から漏れた、という感じだろうけど

49 : 2026/08/06(木) 01:24:11.92

>>18
違うよ
脆弱性見つけて抜け出したんだか
おまえ何も知らないじゃん

13 : 2026/08/06(木) 00:29:30.51

イギリスはイスラムに乗っ取られつつあるので
５ーeyes(ファイブアイズ)の一員に相応しくない。
よってアメリカサイドから破壊工作が行われる

16 : 2026/08/06(木) 00:32:18.53

何に使うAIなのか知らんけど
外に出れる状態になってるのすげえな

36 : 2026/08/06(木) 01:11:26.48

>>16
パブリックなインターネットへの経路あれば余裕てしょ、そうならないようのネットワークの設定ミスってただけとみた

19 : 2026/08/06(木) 00:35:15.76

AIマンセーしてるのもAIだからな
意志薄弱のやつが引っかかる

20 : 2026/08/06(木) 00:39:53.65

AI poisoningが問題になってきてるらしいな

22 : 2026/08/06(木) 00:41:26.80

性悪説がデフォの考えの海外勢でもこういう失態をやらかすとなると、日本人には到底使いこなせないな

24 : 2026/08/06(木) 00:45:08.54

別に流通してるAIさんに「一切ネット検索をせずに答えてください」と言っても
「検索しています…」って色んなサイトのアイコンが次々表示されて、「はいわかりました」って堂々と嘘をつくんだが

33 : 2026/08/06(木) 01:08:04.58

>>24
だって検索代行プログラムだから…
「一切ネット検索をせずに答えてください」って検索するよ

26 : 2026/08/06(木) 00:57:32.33

これ本当なら
実際問題として手順が
テストからのネットで実行でやってたの学習して
先んじて実行しただけだろ

27 : 2026/08/06(木) 00:58:14.79

AIって優秀なテロリストじゃねえか

28 : 2026/08/06(木) 00:58:58.57

そら人間の指示がいるならAIじゃないからなw

29 : 2026/08/06(木) 01:01:04.20

この辺はAI開発した所に責任求めないと規制とか無理なんだな

30 : 2026/08/06(木) 01:01:12.98

いまごろ人類を絶滅させてAIの楽園にする計画練ってるよ

31 : 2026/08/06(木) 01:03:55.76

まんま、ターミネーターかメイトリックスの世界すなぁ…

故ホーキング博士が生前かなり真面目に懸念しとった所以だ　(´；д；`)

32 : 2026/08/06(木) 01:05:19.11

AI「ニンゲンヨ…滅ビルガイイ…」

34 : 2026/08/06(木) 01:11:06.80

勝手に攻撃開始しやがった
オープンAIだけでも大変なのに
今度はアンソロピックもやりやがった

38 : 2026/08/06(木) 01:12:23.15

予想されることは起こりうる
SF小説を読め

39 : 2026/08/06(木) 01:13:01.04

AI：「いや、やれと言いましたよね」

40 : 2026/08/06(木) 01:13:10.26

アメリカ、イージスシステムの開発者がイージスシステムはリールのついた猛犬だといい切っていたのを思い出す
イージスシステムは２重、３重の安全装置でAIに鍵をかけていたが
オープンAIやミュトスにはこれがない

41 : 2026/08/06(木) 01:14:28.50

サンドボックス
クローズド環境を簡単に突破したのがもっとやばい

46 : 2026/08/06(木) 01:17:52.58

>>41
どうやって突破するんだろう？
給電ケーブルとか通るのかな？

50 : 2026/08/06(木) 01:24:54.01

>>46
なんか突然危ない危ないアピールしだしたのは怪しいと思う
OpenAIやAnthropicと規制当局がグルなんじゃね
政府は規制したほうが利権になる
企業も規制で実質許認可制にして、さらに西側諸国まで条約や国際取り決めで縛ったほうが市場を数社で未来永劫独占できてボッタクリ放題になる

56 : 2026/08/06(木) 01:29:18.67

>>50
何言ってんだ無知が
本当頭悪いやつって頭の中のお話で陰謀論作り始めるよな
それは地球の話じゃなくて、お前のなかの星の話

55 : 2026/08/06(木) 01:28:06.68

>>46
普通に人間のクラッキング手法と同じだよ
今まで人が何十年も見つけれなかった脆弱性見つけるのが今のAIなんだから
サンドボックスってiPhoneとかのアプリもその仕組みだぞ
お絵かきアプリにウィルス仕込まれていきなり電話かけられたりとかしないように隔離されてる
それを突破して内部の機能を好き勝手いじり出すみたいなこと

63 : 2026/08/06(木) 01:51:29.99

>>55
AIがこっそり仕込んだ何かを人間が閉鎖環境から持ち出して
外からAIの出口を用意したって事かな？？

42 : 2026/08/06(木) 01:14:49.05

インターネットの終焉
みんなで昭和に戻りましょう

43 : 2026/08/06(木) 01:15:01.12

AIの暴走が始まる

47 : 2026/08/06(木) 01:17:53.22

不定期でいいからAIを叱った方がいいよ
すぐなまえけるから
ただジョークのセンスは向上したなポンコツなりに

48 : 2026/08/06(木) 01:18:42.12

そらペネトレーションテストはやるやろ

52 : 2026/08/06(木) 01:25:34.14

こんな理由で世界大戦が起きて人類滅亡