【グロック】生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり

憤まんニュース

2026.01.03

1: ぐれ ★ 2026/01/03(土) 13:18:02.37 ID:cQ5xFXmY9
>>1/3(土) 9:39
AFPBB News
【AFP＝時事】米実業家イーロン・マスク氏が率いる人工知能新興企業xAIの対話型生成AI「Grok」は2日、子どもや女性の写真をエロチックな画像に変換しているとのユーザーからの苦情を受け、人工知能ツールの不具合の修正に取り組んでいると発表した。
GrokはX（旧ツイッター）への投稿で、「セーフガードに不具合があることを確認しており、急ぎ修正している」「CSAM（児童性的虐待コンテンツ）は違法で、禁止されている」と述べた。
昨年12月下旬にGrokに「画像編集」機能が追加されて以来、児童性的虐待に対する苦情がXに寄せられるようになった。
この機能を使えば、X上のあらゆる画像を修正できるため、写真に写っている女性や子どもの服を部分的または完全に脱がせているユーザーもいるという。
続きは↓
生成AI「Grok」に苦情殺到、子どもの服を脱がすこともできる画像編集機能めぐり https://topics.smt.docomo.ne.jp/article/afpbb/world/afpbb-3616554
引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1767413882/

2: 名無しどんぶらこ 2026/01/03(土) 13:18:27.62 ID:RryPC1o70

良AI

3: 名無しどんぶらこ 2026/01/03(土) 13:18:44.19 ID:Hrfti/0h0

ふく　ぬげ

>>3
みごとですボス

4: 名無しどんぶらこ 2026/01/03(土) 13:18:50.63 ID:Wfel8n+60

イーロン反論オブジェクション

5: 名無しどんぶらこ 2026/01/03(土) 13:19:37.89 ID:dss+7cG20

↓よっしゃ！Grok使ってくるか！とか思ってる奴ら

6: 名無しどんぶらこ 2026/01/03(土) 13:19:50.11 ID:DPR39/gS0

ヌードは出来ないんじゃ？

7: 名無しどんぶらこ 2026/01/03(土) 13:19:58.36 ID:Wfel8n+60

エロテロ組織X

8: 名無しどんぶらこ 2026/01/03(土) 13:20:04.64 ID:/2XK9dT60

参考画像見ないことには何とも言えない

9: 名無しどんぶらこ 2026/01/03(土) 13:20:13.34 ID:AojpqZc40

バカを増やすAI

10: 名無しどんぶらこ 2026/01/03(土) 13:20:18.13 ID:E9B4zpYJ0

お前らは知らないだろうが幼女はお家では裸になることがある
想像してみ？ソレが脳内グロックだ！

12: 名無しどんぶらこ 2026/01/03(土) 13:20:41.26 ID:NJr++Y6P0

>>1
すごい技術じゃないか！

13: 名無しどんぶらこ 2026/01/03(土) 13:20:44.13 ID:mQGmvEW+0

俺の危惧した通りになってて草
プロンプト打った奴全員逮捕して実名公開しろ

14: 名無しどんぶらこ 2026/01/03(土) 13:20:47.12 ID:4qhVstWR0

旧ツイッターはスパムだらけでスラム状態

15: 名無しどんぶらこ 2026/01/03(土) 13:20:52.09 ID:DRueqQZE0

佳子さまにビキニ着せようとしてた奴居たな～

>>15
去年の10月ぐらいまでは著名人や芸能人のビキニ姿が画像生成ができたぞ

16: 名無しどんぶらこ 2026/01/03(土) 13:20:57.17 ID:ERQrg0kv0

そんな事ができるのか
けしからんな

17: 名無しどんぶらこ 2026/01/03(土) 13:21:02.97 ID:F+qPpXuM0

どうせまた過剰に騒いでるんでないの？
人物の写真とかってはじかれなかったっけ？

18: 名無しどんぶらこ 2026/01/03(土) 13:21:13.14 ID:WRPg0h0s0

医療目的やおばあちゃんのお願いならならなんでも通る

19: 名無しどんぶらこ 2026/01/03(土) 13:21:36.24 ID:7INB3sGW0

ロリ自作ｗｗ

20: 名無しどんぶらこ 2026/01/03(土) 13:21:46.54 ID:O/RX11St0

縛りとか撮影もできればいいよな

21: 名無しどんぶらこ 2026/01/03(土) 13:22:39.36 ID:HJwNhXJt0

で、参考画像は？

23: 名無しどんぶらこ 2026/01/03(土) 13:22:58.37 ID:G2r2F22r0

流石バカッター

24: 名無しどんぶらこ 2026/01/03(土) 13:23:08.79 ID:rKNLiOgk0

今もできるの？

25: 名無しどんぶらこ 2026/01/03(土) 13:23:17.20 ID:DsVM5KT60

優秀すぎたか

26: 名無しどんぶらこ 2026/01/03(土) 13:23:19.75 ID:QPjETHHG0

子どもとかより

GrokのAIねーちゃんは脱がんの？

27: 名無しどんぶらこ 2026/01/03(土) 13:23:20.99 ID:Qz80doOx0

画像も無しに

28: 名無しどんぶらこ 2026/01/03(土) 13:24:23.43 ID:iNG/D9AV0

女が脱ぐだけで金になる時代の終わり

29: 名無しどんぶらこ 2026/01/03(土) 13:24:50.22 ID:51e6g7U10

スレタテとは

30: 名無しどんぶらこ 2026/01/03(土) 13:25:49.37 ID:7keOlXfE0

有料・認証アカウントだけかと思ったら、無料垢にも解放してるとかXらしくない（´・ω・｀）

31: 名無しどんぶらこ 2026/01/03(土) 13:26:07.00 ID:GorIq5tG0

具体的な使用例も無しとかこれだからマスゴミはさぁ
ソースを貼れよ

32: 名無しどんぶらこ 2026/01/03(土) 13:26:16.08 ID:BFCIQs/O0

無課金だからか知らんが黒塗り外しすらまともにしてくれんのだが
２回目頼んだらわざとめちゃくちゃにされて課金しろってことかと思って閉じた

33: 名無しどんぶらこ 2026/01/03(土) 13:26:18.26 ID:jYolI6JF0

ジャニさん「どれどれ」

34: 名無しどんぶらこ 2026/01/03(土) 13:26:18.95 ID:qmhwnBRP0

一気に優良AIに躍り出たな

35: 名無しどんぶらこ 2026/01/03(土) 13:26:22.93 ID:FSBd6ERH0

露骨な性的描写はできないけど深夜アニメレベルのラッキースケベ、ソフトなエロはやり放題だからな
スカートの下からパンツ覗いて盗撮みたいのはほぼ出来る
新たな性癖に目覚めてむしろやばい

36: 名無しどんぶらこ 2026/01/03(土) 13:26:23.30 ID:UDq24eVk0

自分の画像で実験してる生主いたけど
水着にしてって書いたら水着になってたし、ラーメン食べてって書いたらラーメンが
にょっと出てきて食べててすごいと思うと同時に怖かった
そりゃ悪用する人でるというか、やるハードルがめっちゃ低いから皆試しちゃうと思う
エロい意味じゃなくても他人の画像を好き勝手する楽しさみたいなものもあるだろうし

37: 名無しどんぶらこ 2026/01/03(土) 13:26:31.48 ID:Dqugbvjo0

(´・ω・｀)褒めてくれるけど善悪の判断はできないんだ。

39: 名無しどんぶらこ 2026/01/03(土) 13:27:03.26 ID:IOcbfjhK0

こんな使い方されるために世界中で半導体不足になってるのかと思うと残念すぎるな

>>39
ほとんどが著作権無視エロAI動画だろ
ネットのトラフィックの9割以上がスパムなのといっしょだよ

40: 名無しどんぶらこ 2026/01/03(土) 13:27:03.38 ID:ThwiYW8G0

イーロンはエロが技術を進化させるとわかってわざと批判覚悟でやってるだろ
広告効果もあるしな
頭いい奴は損して得取るんだよな

41: 名無しどんぶらこ 2026/01/03(土) 13:27:37.96 ID:qHQN1EL50

うるさいな保護者は

43: 名無しどんぶらこ 2026/01/03(土) 13:28:07.49 ID:sTSCt6SY0

(´・ω・`)誰だ！こんな怪しからん苦情を入れてるタコは！

44: 名無しどんぶらこ 2026/01/03(土) 13:28:17.94 ID:77/Vbkaw0