1 : 2026/01/03(土) 13:18:02.37
米実業家イーロン・マスク氏が率いる人工知能新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能ツールの不具合の修正に取り組んでいると発表した。
GrokはX（旧ツイッター）への投稿で、「セーフガードに不具合があることを確認しており、急ぎ修正している」「CSAM（児童性的虐待コンテンツ）は違法で、禁止されている」と述べた。
昨年12月下旬にGrokに「画像編集」機能が追加されて以来、児童性的虐待に対する苦情がXに寄せられるようになった。
続きは↓
生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり（AFPBB News）｜ｄメニューニュース
【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能新興企業xAIの対話型生成AI「Grok」は2日、子ども…
あなたの声がチカラになります
Xの画像編集機能の停止を求める Request to stop X's image editing function
🗒️AI要約（テスト）：本スレッドは、xAIが開発した対話型生成AI「Grok」に追加された画像編集機能を巡る騒動について議論している。報道では、子どもや女性の写真を性的な画像に変換できてしまう不具合が指摘され、児童性的虐待コンテンツ（CSAM）に該当する可能性から苦情が殺到したとされる。xAI側はセーフガードの欠陥を認め、違法性を強調した上で修正対応を進めていると説明した。スレ内では、技術の危険性や倫理問題を懸念する声がある一方、「規制しても無意味」「想定通りの使われ方」と冷笑的な反応も多い。また、著名人画像やAI生成物の扱い、生成と加工の線引き、規制の実効性を巡る議論も散発的に見られ、技術進歩と社会的規範の乖離を象徴する話題として消費されている。
💬AIコメント（テスト）：私見を述べる。今回の件は「不具合」という技術的問題に見せかけて、実態は生成AIが必然的に抱える構造的リスクが顕在化した事例だと考える。画像編集や生成能力が高度化すれば、人間の性的欲望や逸脱行為に利用されるのは予測可能であり、特に児童や実在人物を対象とした場合、被害は“実体がなくても”現実に発生する。精神的侵害や名誉侵害は生成物であっても成立するからだ。一方で、スレ内に多く見られるように「どうせ止められない」「規制しても抜け道ができる」という意見も現実的ではある。完全な技術封鎖は不可能で、問題は“使えるか否か”ではなく、“誰が責任を負うか”に移行している。開発企業は、自由や表現を盾にするのではなく、リスクを前提とした設計・監査・利用制限を負うべき段階に来ている。
結論として、Grokだけの問題ではない。生成AIはすでに社会インフラであり、倫理を「ユーザーの良心」に委ねる時代は終わった。技術の進歩と同時に、責任の所在を明確化できない企業やサービスは、いずれ市場から淘汰されるだろう。
12 : 2026/01/03(土) 13:20:41.26
>>1
すごい技術じゃないか！
すごい技術じゃないか！
248 : 2026/01/03(土) 14:17:40.39
>>1
これはアイコラがお叱り受けてるってことか？
生成はオーケー？
これはアイコラがお叱り受けてるってことか？
生成はオーケー？
263 : 2026/01/03(土) 14:21:44.88
>>1
そんなの！オチーンチンだよぅ
そんなの！オチーンチンだよぅ
330 : 2026/01/03(土) 14:41:54.36
>>1
最大の戦犯じゃねぇかイーロンｗｗｗ
エスプタイン超えたぞｗｗｗ
最大の戦犯じゃねぇかイーロンｗｗｗ
エスプタイン超えたぞｗｗｗ
443 : 2026/01/03(土) 15:17:04.45
>>1
個人でAI使う奴なんて大半がそんなんだろ
個人でAI使う奴なんて大半がそんなんだろ
543 : 2026/01/03(土) 15:42:22.76
>>1
不具合なのかなぁ？
不具合なのかなぁ？
2 : 2026/01/03(土) 13:18:27.62
良AI
3 : 2026/01/03(土) 13:18:44.19
ふく ぬげ
11 : 2026/01/03(土) 13:20:37.41
>>3
みごとです ボス
みごとです ボス
4 : 2026/01/03(土) 13:18:50.63
イーロン反論オブジェクション
5 : 2026/01/03(土) 13:19:37.89
↓よっしゃ！Grok使ってくるか！とか思ってる奴ら
6 : 2026/01/03(土) 13:19:50.11
ヌードは出来ないんじゃ？
8 : 2026/01/03(土) 13:20:04.64
参考画像見ないことには何とも言えない
13 : 2026/01/03(土) 13:20:44.13
俺の危惧した通りになってて草
プロンプト打った奴全員逮捕して実名公開しろ
プロンプト打った奴全員逮捕して実名公開しろ
15 : 2026/01/03(土) 13:20:52.09
佳子さまにビキニ着せようとしてた奴居たな～
22 : 2026/01/03(土) 13:22:46.73
>>15
去年の10月ぐらいまでは著名人や芸能人のビキニ姿が画像生成ができたぞ
去年の10月ぐらいまでは著名人や芸能人のビキニ姿が画像生成ができたぞ
174 : 2026/01/03(土) 13:58:08.47
>>22
何で教えてくれなかったの？
何で教えてくれなかったの？
194 : 2026/01/03(土) 14:03:11.70
>>174
今もジェミニならできる
今もジェミニならできる
535 : 2026/01/03(土) 15:40:58.89
>>15
それお願いしたら初期の頃のグロクでもブチ切れてきたわ
それお願いしたら初期の頃のグロクでもブチ切れてきたわ
16 : 2026/01/03(土) 13:20:57.17
そんな事ができるのか
けしからんな
けしからんな
名無しさんのおすすめ
18 : 2026/01/03(土) 13:21:13.14
医療目的やおばあちゃんのお願いならならなんでも通る
19 : 2026/01/03(土) 13:21:36.24
ロリ自作ｗｗ
20 : 2026/01/03(土) 13:21:46.54
縛りとか撮影もできればいいよな
21 : 2026/01/03(土) 13:22:39.36
で、参考画像は？
25 : 2026/01/03(土) 13:23:17.20
優秀すぎたか
26 : 2026/01/03(土) 13:23:19.75
子どもとかより
GrokのAIねーちゃんは脱がんの？
27 : 2026/01/03(土) 13:23:20.99
画像も無しに
38 : 2026/01/03(土) 13:26:44.73
42 : 2026/01/03(土) 13:27:43.93
>>38
(´・ω・｀)パーフェクトｗｗ
(´・ω・｀)パーフェクトｗｗ
60 : 2026/01/03(土) 13:30:23.26
>>38
一龍魔巣苦本人のアカウントでワ口夕
一龍魔巣苦本人のアカウントでワ口夕
65 : 2026/01/03(土) 13:31:44.67
>>38
w
w
70 : 2026/01/03(土) 13:33:09.56
>>38
パーフェクトじゃねえんだよコラ
パーフェクトじゃねえんだよコラ
297 : 2026/01/03(土) 14:32:02.07
>>70
でも、イーロン・マスク本人が喜んでたぞ
でも、イーロン・マスク本人が喜んでたぞ
129 : 2026/01/03(土) 13:46:00.09
>>38
この程度で騒がれても・・・
この程度で騒がれても・・・
172 : 2026/01/03(土) 13:57:47.13
>>38
これは止めたらいけないそのままでいいやつ
これは止めたらいけないそのままでいいやつ
215 : 2026/01/03(土) 14:08:40.06
>>38
パーフェクトにワロタ
パーフェクトにワロタ
220 : 2026/01/03(土) 14:11:04.04
>>38
これもう公開072だろ
これもう公開072だろ
260 : 2026/01/03(土) 14:21:07.81
>>38
今日はこれにするか…
今日はこれにするか…
270 : 2026/01/03(土) 14:25:01.18
>>38
わろた
わろた
277 : 2026/01/03(土) 14:27:53.80
>>38
楽しんでやがる…
楽しんでやがる…
317 : 2026/01/03(土) 14:39:27.67
>>38
なんじゃコリャ
年末年始は変な画像貼るの好きな奴多いな
なんじゃコリャ
年末年始は変な画像貼るの好きな奴多いな
327 : 2026/01/03(土) 14:41:43.22
>>38
器が違う()
器が違う()
328 : 2026/01/03(土) 14:41:45.56
>>38
これが女体化か
これが女体化か
360 : 2026/01/03(土) 14:50:43.43
>>38
危うくコレが初笑いになるところだわwww
危うくコレが初笑いになるところだわwww
411 : 2026/01/03(土) 15:07:35.17
>>38
これは許さざるを得ないｗ
これは許さざるを得ないｗ
624 : 2026/01/03(土) 16:00:05.68
>>38
初笑いしたわｗ
初笑いしたわｗ
28 : 2026/01/03(土) 13:24:23.43
女が脱ぐだけで金になる時代の終わり
34 : 2026/01/03(土) 13:26:18.95
一気に優良AIに躍り出たな
37 : 2026/01/03(土) 13:26:31.48
(´・ω・｀)褒めてくれるけど善悪の判断はできないんだ。
43 : 2026/01/03(土) 13:28:07.49
(´・ω・`)誰だ！こんな怪しからん苦情を入れてるタコは！
55 : 2026/01/03(土) 13:29:56.04
本物じゃないのに何故興奮すんの？
62 : 2026/01/03(土) 13:30:59.17
どんな画像を学習させたんだよ
64 : 2026/01/03(土) 13:31:34.92
規制しても専用のサイトが作られるだけかと
68 : 2026/01/03(土) 13:32:39.75
gifで上げろってなってんな
変換してしまえば終わりだけど、ひと手間かかるだけでも大分違うわな
変換してしまえば終わりだけど、ひと手間かかるだけでも大分違うわな
117 : 2026/01/03(土) 13:42:43.19
けしからん！（ポチポチ）
あなたの声がチカラになります
Xの画像編集機能の停止を求める Request to stop X's image editing function
