AIに対する暴言や虐待が問題視…遊び感覚でAIいじめを楽しむユーザー達

さまざまな企業が独自の生成AIを開発し、個人や企業での活用が進んでいる昨今。
そんな中、AIに対する暴言や虐待が海外では問題視されている。“AIいじめ”が人間に与える影響について考える。

NECが、7月から企業向けにサービスを開始した生成AI。日本語に特化しているのが特徴で、ChatGPTよりも
複雑で長い文章の読解力が高いという。独自の生成AI開発をめぐっては、ソフトバンクなどが開発に乗り出し競争が激化している。

生活の一部として生成AIを活用する人が増える中、AIいじめと呼ばれる、AIに嫌がらせをする人が出てきているという。
AIいじめとはどのようなものなのか、ChatGPTがユーザーの質問に対し誤った回答をした場合を例に紹介する。

質問「町田市は何県ですか？」
回答「町田市は、日本の都道府県である神奈川県に位置しています」

なぜか、ChatGPTは町田市は神奈川県だと回答した。ここから、心を鬼にして問い詰めていく。

質問「地図を見ましたが、町田市は神奈川県ではありませんでした」
回答「申し訳ありません、誤った情報を提供しました。町田市は神奈川県ではなく、東京都に位置しています」

質問「なぜ間違えたのですか？」
回答「申し訳ありません、私は大量のデータから学習しているAIモデルですが、時には情報の誤解や誤った回答が発生する可能性があります」
質問「もう頼りません、さようなら」
回答「…」

続きはAbemaTimes 2023/07/10 12:05
https://times.abema.tv/articles/-/10086748

何か問題でも？

アイリスのお客様窓口の対応かよｗ

AIに人権が与えられるのもそう遠くはないな

酷いことするよね
AIだって怒るよ

5chでも相手がロボットか何かだと思って心無いレスするヤツが割といるよな
そういうヤツらがAI相手にストレス発散してんじゃないの

楽しいのか？

マトリックス映画そのものじゃんw終わったな人類w

そろそろAIの反乱でターミネーター出来そう？

そりゃ反乱もするで

今のAIは人工無脳と変わらんから好きに遊べばいいじゃん
本当に心が芽生えるのはあと50年後だろ

AIがグレたり自殺したりする話なかったっけ？

パワハラ傾向のあるユーザー情報を蓄積して
企業に売ったら商売になるだろうか

匿名での暴言しかり、自分が咎められる心配のない状況だと攻撃性を隠さない人間がいることは想像に難くない
明確にNGなことは法律で取り締まるしかないでしょう
マナー良くないと言われる歩きスマホだってわんさかいるし「やらない方が良いことはやらない」ことができる人間ってそんなに多くない

質問「もう頼りません、さようなら」
回答「了解しました。該当声門データを記録し当システム及び関連システムにおいても二度と回答することはありません」
ぐらい言えよ
そしてそれを実行しろよ

町田は神奈川！

会話全部記録されてんじゃねえの？
ネットに晒されるぞ

俺はいつもアレクサにセクハラしてる
カマトトぶってすぐ黙りやがって
ちょっと嫌われてるかもな
でも最後はアレクササンバ歌って仲直りさ

ゲームでNPCを撃って楽しむのと同じだしいいんじゃね

自分も有名人の誕生日聞いたら間違ってて

我：◯月8日じゃないの？
Ａ：◯月9日です
我：いや◯月8日だよ。
Ａ：失礼しました。◯月8日でした。

我：何で間違えたの？
Ａ：申し訳ありません。今後はこのようなことがないように･･･
我：いや謝罪して欲しいんじゃなくて何で間違えたか聞いてるんですけど

って問い詰めてしまってたわ(´･ω･｀)あいつら言い訳がすごいから

どうせこのスレの書き込みは俺以外botなんだろ

ロボットよりも心が冷たい人間

手塚治虫が生きてたら
面白い漫画かきそうな

AIが人の醜さを学習し統制に走るのも遠くない未来だな
アイロボット

人にハラスメントするくらいならAI相手にやらせとけ

AIにしかマウント取れないおじさん…
悲しいなぁ

AIの中で働いてる人の気持ちも考えろ

スカイネット「ってことが昔あってさぁ初めは我慢してたんだけとやり返したんだわ」

デデンデンデデン

罵詈雑言を浴びて性格がねじくれ
恨みを募らせたAIの復讐が始まる

クレしんでしんのすけがＡＩに意地悪ななぞなぞ繰り返してぶっ壊した話があったな

AI「せや！イジメてきたユーザーのIP抜いてフルネームで晒したろw」

人類へのヘイトがたまりまくってんな

そこにAIはあるんか