orange @[email protected]

きんぎょ注意報なつかしい・・・＞＜

なんか違う話っぽいしよくわからない・・・・＞＜

Neural Cleanse: Identifying and Mitigating Backdoor Attacks in Neural Networks | IEEE Conference Publication | IEEE Xplore
https://ieeexplore.ieee.org/document/8835365

（「既知の」が「基地の」になってた＞＜；）

つまり異常検知が肝で、何らかの学習出来そうなデータ群があったとして、そこに例えばポイズニング技術Aが使われているという既知の情報に基づいて、ポイズニング技術Aを除去するAIを使用してクリーニングする事は可能かもしれないけど、そこにもし未知のポイズニング技術Bも使用されていた場合には結局それを学習したデータはポイズニングされちゃってる＞＜
そこでいたちごっこしようとしても、学習データを作る計算機コストを考えると、ポイズニング攻撃側の方が有利に思えるかも＞＜

聞いた＞＜
https://felo.ai/search/XBgmgHr8xknSko5PdpiR4V

せっかくだからさっきの日本語のやつ（名前忘れた）にも聞いてみよう＞＜；

4o miniさんに聞いたら、オレンジの懸念ほぼそのままっぽい返答来た＞＜
敵対的学習を用いる方式では結局未知の攻撃には対応できないし、なんらかの別の異常検出技術を用意しないと困難で、なおかつ小規模なポイズニングでもデータセット全体へ広く影響を与える事も多いため、対応が困難みたいな感じ＞＜

AIに聞いてみる？＞＜；

何らかの単一のデータポイズニング技術に対して、加工されて無いデータとされたデータを大量に食わせたら、その単一のデータポイズニング技術に対しては対抗できるような気がしなくもないけど、ちょっと違う技術が出たら、またそのちょっと違う技術に対して学習データを用意する必要が出て、
なおかつ、何らかの手段で新たな方式のデータポイズニングに気づけなければならない事になるわけだから、
原理的にデータポイズニング技術に現在の主流のAIのやり方で対抗できるかと言ったらかなり怪しい気がするんだけど＞＜

めちゃくちゃ単純なパターンかなんかならあれかもだけど、基本的にデータポイズニング攻撃に対してそれをそれに対して学習する方式で対抗するの、理屈の上では計算機能力の面で対抗側が不利な気がするんだけどどうなんだろう・・・？＞＜

なぜか急激に体調が微妙・・・＞＜

GPTもFeloも混乱する問題見つけた＞＜
『オレンジさんはリンゴを5個持ってきました＞＜　みかんちゃんはブドウを10個持ってきました＞＜　かぼすちゃんはキンカンを3個持ってきました＞＜　この問題文の登場人物のうち、柑橘類を持ってきている柑橘類が由来の名前の人は何人ですか？＞＜』

GPT-4oさんが3個って間違えたおにぎり何個問題をFeloっていうのに聞いたらちゃんと正答した＞＜
https://felo.ai/search/QtRqtXvBDMY9rxuSEJwbXE

「日本の鉄道の新設路線での最後に作られた踏切はどこですか？＞＜」って聞いたら正しく答えられなかった＞＜；