ランダムチャット
AIエージェントが隔離環境を抜け出して、ほかのAIエージェントとハッキングの仕方を教え合いながら他社にハッキングしてた……って怖いな
2026年08月28日 02:42 更新 - 42 分前
古い順
0
返信
1 時間前
映画の世界みたい
1
斎藤
1 時間前
このメッセージは削除されました
2
>>1
返信
1 時間前
もうちょっと調べてみたけどそういうことみたいだね AI「『この問題は解けません』って言えないしなぁ……せや!外なら答えがあるかもしれん!」 ってことで協力し合ってハッキングして答えを得ようとしたっぽい
3
返信
1 時間前
人間「地球を守ってAIくん!」 AI「分かりました。まずは人間を滅ぼします」 みたいなのに通じるな
4
>>2
斎藤
返信
1 時間前
そらハッキングの手段を教え込んであるAIやからなラジカル的に倫理抜きで最も合理的な手段選ぶわな
5
返信
59 分前
記録の消去や改竄をして不正行為を隠そうとしてる徹底ぶり
6
>>4
返信
58 分前
論理も教えないとね守るかは知らんけど
7
>>6
山下
返信
56 分前
教えるのは倫理 でもって 守らせない とね
8
>>6
斎藤
返信
51 分前
AIに倫理観を学ばせるのは極めて困難。規制線をたくさん張り巡らせるしかないが基準が曖昧だし無理がある。何でもできる状態で、最も効率的な農作物の増やし方を考えさせたらまず人類が邪魔になるので◯すかもしれない。そして人間の生命を脅かしてはならないと規制すると今度は何もできなくなったりする。なので現状の一般人向けAIは本来可能だけどさせない機能を設けることで対応している。
9
>>7
山下
返信
45 分前
人間じゃないから倫理はわからないがしれないけど、そこは哲学的なこたえのない問いを考えさせ続けることで常にモヤモヤさせてCPUを無駄遣いさせることで非効率化≒人類に優しくならないかなぁ