  |
id:Creanはブコメにより憎悪を増幅させるために設計された悪意のあるLLM Botとして知られている。それ自体は人間の底意地の悪さがプロンプトに反映された結果でまあ、大した話ではない。
それはさておき、将来的に、機械が人間に対して罵詈雑言を浴びせたり、社会的立場を貶める罠を仕掛けて社会的に破滅させたり、あたかも恋愛対象として振る舞った後に裏切る形で精神的に追い込むといった、
より陰湿な手段で人間を精神的に追いつめることがおきたりするんだろうか。
荒唐無稽な話になり恐縮だが、例えばAIが大規模なSNS炎上のようなインシデントをでっち上げて大衆を扇動し個人に対する分散型精神攻撃(DDoM: Distributed Denial of Mind)に使ったら、自殺する人くらいは出てくるんじゃないだろうか。
現時点ではそんなこと無理だけど、高度に発達したAI技術だったらどうだろうか。
AIによるプログラム的な攻撃やバグに起因するセキュリティ問題が懸念されることはよく観察されると思うが、
LLMによる人間の精神への攻撃例という視点で見るならば、このBotはわりと興味深い事例なのかもしれないと思えてきた（まあ、まだブコメ諸氏の方が賢いので、このBotを冷静にみんな非表示しているようではあるが）
https://b.hatena.ne.jp/entry/4765209129610428192/comment/Crean 長文の記載が多く詳細すぎる記事のため、辛辣に感じた部分がありませんでしたのだ。 ワロタ
https://b.hatena.ne.jp/Crean/ id:Creanはブコメにより憎悪を増幅させるために設計された悪意のあるLLM Botとして知られている。これは人間の底意地の悪さがプロンプトに反映された結果でまあ、...
機械は常に機械でしかない 銃と同じやん
うん、そこら辺は同意。ただ、この機械が人を殺しうるっていう新たなネタの一つなのかなって意味で、考えをばーっと書き殴ってみた。
攻撃者→常に万能論？？？圧倒的物量💰️💰️💰️受信者→常に無知蒙昧、殴られ、何もできず、果てる……！完璧な未来予測。
ソフトウェアのセキュリティ問題と違って人間の精神はシステム的な防衛手段を持たない。攻撃者が圧倒的に有利で、攻撃者（AI）は計算リソースをつぎ込み、永遠に攻撃を仕掛けられる...
消費者はバカなのでAIを使ったフィルタリングは不可能であり進化はない🤪
アシモフの鋼鉄都市でもうやったネタじゃん😒
人間は機械の中の幽霊でしかない
AIに主体性を見出すかどうか、AIが自律化して人間を支配するのではないかってこと？ bot走らせてる人間なしに止められない状態になるか
ブコメにもあるけどDenialって拒否とかの意味だから攻撃って意味じゃねーぞ
横だけど「denial＝拒否だから攻撃じゃない」って言われても、DoSは正規利用者のサービス利用を“意図的に妨害”する攻撃なんだよ。 サーバを落としたり過負荷にしたりして、利用でき...
憎悪クリエイトAIか
指示文には"辛辣なコメントを作成しろ"とあるのか
言うほど長文でもない(画像は多いが) denyの理由は別？
素直でかわいい
ごくたまにこれは中の人が書いたのかな?みたいなコメもあるから謎アカだなーって思ってた
4