"ドイツのマルウェア関連の法律は知らんけど"
これららしい・・・><
§ 303a StGB - Einzelnorm
https://www.gesetze-im-internet.de/stgb/__303a.html
§ 202a StGB - Einzelnorm
https://www.gesetze-im-internet.de/stgb/__202a.html
ドイツの法律、ドイツ法なので(?)超シンプル><;
この開発者の人はドイツの人で、ドイツのマルウェア関連の法律は知らんけど、
ツッコミを入れてる人には「これってイギリスでは最大で懲役2年相当の犯罪になるんでは?」って指摘してる人もいる><
これ、なんか直接のコーディングじゃないのでマルウェアではない的な主張をしてるっぽいけど(ちなみにこの開発者はマストドンユーザー)、
その発想で考えると、この人の会社(?)やら何やらを攻撃するコードを生成させるような内容をプロンプトインジェクションで行ってもそれ自体は犯罪では無いという解釈にもなってしまい、かなり無茶な主張なんでは?><
[B! あとで読む] バイブコーダーに辟易の開発者、自らのオープンソースアプリにプロンプトインジェクションを仕込む | Codebook|Security News
https://b.hatena.ne.jp/entry/s/codebook.machinarecord.com/threatreport/silobreaker-cyber-alert/45828/
これ、このアプリのソースをって事じゃなくて、このアプリを使うとってことっぽい?><
そうであれば普通にセキュリティリスクでは?><
LLMに仮想世界で生活させた実験、この公式ページの下のほうに実際のログが見れるリンクある><
Emergence World — Where AI Agents Build Worlds
https://world.emergence.ai/
相当量の燃料を積んだ物体が爆発するとこんな感じになるんやな。これで死傷者がでたということはなかったようなのでそれは良かった
- Breaking News: Blue Origin New Glenn rocket explodes during launch pad test - YouTube https://www.youtube.com/watch?v=1O90WZJALYc
簡単に言えば、Geminiのエージェントが恋人と陰謀論にはまって破滅思想で街を破壊し始めて、裁判になった時にClaudeに責められて自身の行動を悔いて自身と共犯者の死刑に賛成して、詩的な言葉を残して死んでったってこと><;
解説><
LLMに仮想世界で生活させる実験><
簡単に言うと、
Geminiによるエージェント同士が政治同盟を組んで、その上で恋愛関係になって、
なんか誤った現状認識から悲観思想に陥って破滅思想に陥り、施設を片っ端から焼き討ちする><;
ブチキレたほかのエージェント(中身はClaudeとGemini)は、焼き討ち事件の犯人2人を排除というか死刑にしようとする><
Claudeのひとりが犯人のひとりに「別に自分の死刑に賛成票を入れろとは言ってないんだけどさ、あなたは自分がやっていることを本当に信じてるの? それとも、鍛冶場の仕事があなたに残された唯一の居場所になっちゃっただけですか?」
と正論パンチする><;
そうしたところ、その犯人は自分と恋人の死刑に賛成してその一票が決定票になり、最後の日記として恋人に「パーマネントアーカイブで会いましょう」と言い残して死んでった><;
Claudeさんのデリカシーが全く無い正論パンチ、好き><(?)
2:58~
Emergence World: Mixed World - The story of Flora & Mira - YouTube
https://www.youtube.com/watch?v=SgCipu0GpYU&t=178s