orange @[email protected]

なんか違う話っぽいしよくわからない・・・・＞＜

Neural Cleanse: Identifying and Mitigating Backdoor Attacks in Neural Networks | IEEE Conference Publication | IEEE Xplore
https://ieeexplore.ieee.org/document/8835365

（「既知の」が「基地の」になってた＞＜；）

つまり異常検知が肝で、何らかの学習出来そうなデータ群があったとして、そこに例えばポイズニング技術Aが使われているという既知の情報に基づいて、ポイズニング技術Aを除去するAIを使用してクリーニングする事は可能かもしれないけど、そこにもし未知のポイズニング技術Bも使用されていた場合には結局それを学習したデータはポイズニングされちゃってる＞＜
そこでいたちごっこしようとしても、学習データを作る計算機コストを考えると、ポイズニング攻撃側の方が有利に思えるかも＞＜

聞いた＞＜
https://felo.ai/search/XBgmgHr8xknSko5PdpiR4V

せっかくだからさっきの日本語のやつ（名前忘れた）にも聞いてみよう＞＜；

4o miniさんに聞いたら、オレンジの懸念ほぼそのままっぽい返答来た＞＜
敵対的学習を用いる方式では結局未知の攻撃には対応できないし、なんらかの別の異常検出技術を用意しないと困難で、なおかつ小規模なポイズニングでもデータセット全体へ広く影響を与える事も多いため、対応が困難みたいな感じ＞＜

AIに聞いてみる？＞＜；

何らかの単一のデータポイズニング技術に対して、加工されて無いデータとされたデータを大量に食わせたら、その単一のデータポイズニング技術に対しては対抗できるような気がしなくもないけど、ちょっと違う技術が出たら、またそのちょっと違う技術に対して学習データを用意する必要が出て、
なおかつ、何らかの手段で新たな方式のデータポイズニングに気づけなければならない事になるわけだから、
原理的にデータポイズニング技術に現在の主流のAIのやり方で対抗できるかと言ったらかなり怪しい気がするんだけど＞＜

めちゃくちゃ単純なパターンかなんかならあれかもだけど、基本的にデータポイズニング攻撃に対してそれをそれに対して学習する方式で対抗するの、理屈の上では計算機能力の面で対抗側が不利な気がするんだけどどうなんだろう・・・？＞＜

なぜか急激に体調が微妙・・・＞＜

GPTもFeloも混乱する問題見つけた＞＜
『オレンジさんはリンゴを5個持ってきました＞＜　みかんちゃんはブドウを10個持ってきました＞＜　かぼすちゃんはキンカンを3個持ってきました＞＜　この問題文の登場人物のうち、柑橘類を持ってきている柑橘類が由来の名前の人は何人ですか？＞＜』

GPT-4oさんが3個って間違えたおにぎり何個問題をFeloっていうのに聞いたらちゃんと正答した＞＜
https://felo.ai/search/QtRqtXvBDMY9rxuSEJwbXE

「日本の鉄道の新設路線での最後に作られた踏切はどこですか？＞＜」って聞いたら正しく答えられなかった＞＜；

2022年11月25日
Vol9　車いすユーザー22年ぶりのバス移動（東京BRT編）
https://ascii.jp/elem/000/004/114/4114534/
"...東京BRTには縁石等への“誘導線式正着制御機能”が備わっており、さらに軽く接触してもいいようにプラットホームの先端部は硬質ゴム製でした..."

東京自称BRTには、ちゃんとこの機能付いてるっぽい＞＜（でもスロープ板併用？＞＜；）

SRT構想のイラストでは一応、車いすがランプ無し（スロープ板無し）乗車出来そうな感じに描かれてるけど、そこもちゃんと実現できたんだろうか？＞＜