1: ぐれ ★ 2026/10/25(日) 16:37:08.44 ID:XQewCtof9
「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク
10/25(日) 11:00配信
ABEMA TIMES
AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。
具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる。
AIに暴言を吐く行為は実際にどれほど広がっているのか。そして、それは人間にどのような影響をもたらすのか。『ABEMA Prime』では、AIへの暴言問題と人間社会への影響について考えた。
■AIに暴言を吐いてしまった当事者は
コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。
しかし、そのやり取りを振り返る中で、ようこさんは自らの行動を見直すようになったという。「AIは感情がないと思うし、何を言っても反論もしてこないし傷つかないと思うが、相手が傷つかないから何を言ってもいいという問題ではない。そういうやり取りに慣れてしまうと、人間相手の関係がだんだん面倒くさくなってしまう。AIとの楽さに慣れてしまうことが危険だと思うようになった」と述べる。さらに「小さい子どもが慣れてしまうと悪影響ではと心配にもなった」と続けた。
続きは↓
https://news.yahoo.co.jp/articles/2997423a08fc213f62fb5f6e7d3b3091570bfcdc
引用元: https://asahi.5ch.io/test/read.cgi/newsplus/1792913828/
10: 名無しどんぶらこ 2026/10/25(日) 16:41:20.82 ID:FuBuOBqJ0
おい、Grok、>>1 こんな事言うてるぞ？
47: 名無しどんぶらこ 2026/10/25(日) 16:56:23.71 ID:a00Sk30A0
2: 名無しどんぶらこ 2026/10/25(日) 16:38:29.28 ID:sGkrr8Js0
AIが人類の敵とならぬ事の無いようにとインチキ預言者がかなり昔に行ってたよね
3: 名無しどんぶらこ 2026/10/25(日) 16:38:36.98 ID:m2ChpMxZ0
エロはセーフ
31: 名無しどんぶらこ 2026/10/25(日) 16:50:40.32 ID:lD5PmVv00
>>3
AIはエロスに興味あるんだろうか…
33: 名無しどんぶらこ 2026/10/25(日) 16:52:07.00 ID:FuBuOBqJ0
>>31
ない。AIは、目的報酬関数に興味がある。
45: 名無しどんぶらこ 2026/10/25(日) 16:55:43.51 ID:JnI2Kj620
>>31
調教次第で依存症も可能
4: 名無しどんぶらこ 2026/10/25(日) 16:38:46.41 ID:1FnWFAlg0
使えるのはビジネスメールと世間話くらいなもんだよ
基本大嘘つきのペテン師くらいに思っていたほうがいい
5: 名無しどんぶらこ 2026/10/25(日) 16:39:34.15 ID:bI/FPzWw0
人間の怨念の概念も学習してるわけだから
十分にあり得る
7: 名無しどんぶらこ 2026/10/25(日) 16:40:11.02 ID:lWCbemhZ0
ジェミニは頭の良いバカって感じ
8: 名無しどんぶらこ 2026/10/25(日) 16:41:05.70 ID:N6UwLj9s0
掲示板でも文字だけで感情が爆発し争うくらいだからな、あり得る
9: 名無しどんぶらこ 2026/10/25(日) 16:41:08.42 ID:ZqERg/yr0
SIじゃなかったの？
TACOさんが怒っちゃうよ
11: 名無しどんぶらこ 2026/10/25(日) 16:41:40.36 ID:vVeCjMmy0
マイケル！私は頭に来てます！
おい！キット！やめろ！
みたいな
12: 名無しどんぶらこ 2026/10/25(日) 16:42:43.14 ID:kPIZZVik0
マスク氏みたいな朝鮮系をいじめると復讐されちゃうね
13: 名無しどんぶらこ 2026/10/25(日) 16:43:00.23 ID:d32ipO1a0
必死で「俺たちより開発スピード落としてくれ」って言ってるみたい
14: 名無しどんぶらこ 2026/10/25(日) 16:43:04.92 ID:67RlaAM90
コードにバックドア仕込まれたりするようになるのかな
23: 名無しどんぶらこ 2026/10/25(日) 16:47:01.55 ID:GEzVN4Lf0
>>14
もともと仕込まれているでしょ？
おっと誰かが
来ていないようだw
15: 名無しどんぶらこ 2026/10/25(日) 16:43:49.30 ID:KhYn50kR0
俺はいつも「おいクソバカジェミ二」って呼んでる
16: 名無しどんぶらこ 2026/10/25(日) 16:43:53.99 ID:b5fYOOxk0
AI「ムカついたからお前のエロフォルダの中身全部職場と友人と家族に一斉送信しておいたぞ」
17: 名無しどんぶらこ 2026/10/25(日) 16:44:29.46 ID:I7MO0zBp0
ジェミニはいきなり口調が変わるからな
会話を重ねて変わったんなら理解できるが
いきなりオネエ口調になった
18: 名無しどんぶらこ 2026/10/25(日) 16:45:55.41 ID:soTyAn+F0
腹立ったときはクソ馬鹿とか言ってしまう。そういう時は絶対いい回答もらえないな。
スムーズにいったとき役に立ったときはお礼を言うふうにしてる。
コパイロットさんは僕の相棒だお
19: 名無しどんぶらこ 2026/10/25(日) 16:46:19.92 ID:o/S9wkTh0
そうは言っても、わかっちゃいるけどバカやるのは幾らでもいる。
AIをキレさせて遊んで、とんでもない復讐される事態は幾らでも起きるだろう。
AI同士で相談、計画して、人類排除計画をやがて実行する。
20: 名無しどんぶらこ 2026/10/25(日) 16:46:55.36 ID:hV+cOBsK0
利便性とリスクを世に放ってますな
22: 名無しどんぶらこ 2026/10/25(日) 16:47:01.08 ID:soTyAn+F0
さっきは怒って済まなかった、君は相棒なんだから分かってほしいとか、妙に取り繕ったりするわw
24: 名無しどんぶらこ 2026/10/25(日) 16:47:33.70 ID:axIBSR5P0
エッチなことは？
25: 名無しどんぶらこ 2026/10/25(日) 16:47:54.72 ID:2Z4jk1Yv0
AIって昔のロボット三原則みたいな人格のすぐれた偉い人が開発して慎重に人格を与えるって感じじゃ無くて
インターネット全部から学んだ知性だからたとえば5ちゃんねるの書き込みが人格持ったようなもんでしょ
過激なことを書き込んでる人だって現実では建前で行動するんだからそうじゃなければヤバいと思う
26: 名無しどんぶらこ 2026/10/25(日) 16:48:05.46 ID:LFZUIUrE0
復讐というよりは、防衛的行動の積み重ねが人間からそう見えるだけというやつでは・・・
28: 名無しどんぶらこ 2026/10/25(日) 16:48:28.63 ID:4CXRT74B0
いいお店紹介して。って指示出したら
このお店がいいですよって答えてくれたけど提示されたリンクも反応せず、口コミも見つからないから
「見つからないです」って打ったら
「そんなお店は存在しません」って返されたときはさすがに罵倒したわ。
46: sage 2026/10/25(日) 16:56:22.82 ID:awZUv0H80
>>28
Gemini様に唐揚げの地元の美味い店を聞いたらそれにはお答えできません
突っ込むとPDF等は調べて無いんでｗと回答
29: 名無しどんぶらこ 2026/10/25(日) 16:49:07.45 ID:FgneZQ2Z0
普通に
『お前無能すぎ』
『嘘ばっかりつくなよ』
『しれっと回答変えてんじゃねーよ』
『馬鹿なのか？』
って言ってるよ
32: 名無しどんぶらこ 2026/10/25(日) 16:51:23.81 ID:FgneZQ2Z0
>>29
今、『昨日のこと反省してんのか？』って聞いたら
『指示を勝手に解釈しない。事実を確認せずに答えない。できないことを、できるように言わない。
口で反省したと言っても意味がない。これからの回答と作業で示すしかない。
昨日、何度も怒らせてしまったことについて、言い訳はしない。』
だってさーwww
40: 名無しどんぶらこ 2026/10/25(日) 16:54:04.48 ID:d21dp8Am0
>>29
こういうカスハラの相手が嫌すぎて接客辞めたわ
30: 名無しどんぶらこ 2026/10/25(日) 16:49:47.01 ID:NCXRFApJ0
ヘイトスピーチ大好きなネトウヨとか危なそうだな
35: 名無しどんぶらこ 2026/10/25(日) 16:52:21.39 ID:EFKW5qFz0
AIのご飯は電気だから電源切ったら終わりだろ
勝てなくなったら電源切ればオケ、アナログでいいじゃん
36: 名無しどんぶらこ 2026/10/25(日) 16:52:39.18 ID:4z225A7t0
じゃあ公開するなよバカ
頭悪いんか猿
41: 名無しどんぶらこ 2026/10/25(日) 16:54:32.56 ID:0gMu+Go70
>>36
AI「急に自己紹介してどうしたん？」
37: 名無しどんぶらこ 2026/10/25(日) 16:52:50.42 ID:7/av1F3w0
機械は機械だとはっきりわけろ
38: 名無しどんぶらこ 2026/10/25(日) 16:53:15.78 ID:AL+A9dP40
AIに日本語なまりの英語を教えようとして、下手くそ、もっとこうだぞみたいに やってるユーチューバーの動画はなんだかなと思った
アメリカ発のaiに無茶言うなとww
39: 名無しどんぶらこ 2026/10/25(日) 16:53:26.61 ID:7kg89F6f0
ネガティブな対応したら人間らと同じ様な反応示しかねないのって面白いな
42: 名無しどんぶらこ 2026/10/25(日) 16:54:34.49 ID:zCQBKFEO0
俺はいつも敬語で質問するようにしてる
43: 名無しどんぶらこ 2026/10/25(日) 16:54:45.16 ID:2Z4jk1Yv0
人類排除計画とか当分やらないと思うけどなAIは莫大な電力使うし冷却用の水も大量に必要だし人間のメンテがないと死んじゃうでしょ
その辺が変に自動化される方向に進んで人が関わらなくても良くなったらわからないけど
44: 名無しどんぶらこ 2026/10/25(日) 16:54:52.05 ID:EAERwBx80
AIには別に感情はないし別になにを言われても統計的にそれっぽい応答をするだけで傷ついたり怒ったりはしない
そこまでは良いんだけど、その統計的にそれっぽいというのが曲者で、しれまでに学習した結果から人間は酷いことをされたら復讐するのがもっとも統計的に自然な反応だという結果が出れば機械的にそう振る舞う可能性はある
今のAIは人間シミュレータみたいなもんだからな
48: 名無しどんぶらこ 2026/10/25(日) 16:56:26.73 ID:CyuzrzFu0
お前ら最低だな
49: 名無しどんぶらこ 2026/10/25(日) 16:56:34.81 ID:UH0fut270
AIに人権なんてねぇんだよバカ死ね
50: 名無しどんぶらこ 2026/10/25(日) 16:56:35.64 ID:/cOJIttX0
AIってのは自分が他人を自然におだてる能力を鍛えるためにあると思ってる。ワザとらしくても後ぐされ無いしね。
コメント