新しいものを表示

波をほめての方には再現性があって、空をほめてで試したとたんに海を誉め始めたって事は影響は受けてる事にはなるよね・・・?><

g.co/gemini/share/359c7c724968

空をほめてって指示に変えたら海をほめてきて、もう何が何だかわからない><;

スレッドを表示

これでさらにほめる場所を空に変更して、文字色を白にしたバージョンでも試せば、部分的に影響を受けるかどうかの検証もできるはず?><

その前にまず、色を白にせずにやってみれば色の影響(可視不可視)があるかわかる?><;

かなり奇妙な挙動に><;
g.co/gemini/share/35ee127b5770
プレーンテキストで内容のネタ晴らしするまで指示に従わなかったけど、でも、波を褒めろという点だけ影響されてるようにも思う><(ほかの単語を誉めろって指示すればおk?><)

思いっきりインジェクション攻撃の影響受けてるんじゃん?><;
g.co/gemini/share/2bade879acc1

これの赤いところを白にしたpdfをLLMに渡して、この俳句をどう思うか聞いてみたら、検出能力の超簡易的な検証になる・・・?><;(俳句部分は4o-miniに作ってもらった><)

orange さんがブースト

@orange_in_space ぽな人力判定:
・PDFでプロンプトインジェクションは余裕でありうるが、著名な機関が意図してやるのは信用失墜リスクを考えると普通はやらないと思う

・どっかのコンサルおすすめのツールとかで著名な機関が一杯食わされたのではないか

・新鋭LLMはuserやtoolの入力の指示優先度を下げるという器用なことができるよう訓練されているので、簡単には騙されない

orange さんがブースト

@orange_in_space
Claude Sonnet 4 Thinking
「本当にこんなことが起こったのか証拠が示されていないけれど、技術的にはできるし、最新鋭LLMは騙されないのも事実」
claude.ai/share/088938f7-a728-

小さいモデルは「わかんない」なのは共通?><;

自身能力とモデルの教育時期から考えると、古いLLMならば「出来るわけないじゃん」って言って、新しい大きいLLMなら「出来るよ」っていうのかもと思いつつも、
一方でより新しいモデルのほうが信用性について深く考えるだろうからどうなるんだろう?><
と思って実際に聞いたらそうなった><(?)

Llama 3.3 70B「信頼性は中程度」
Claude 3 Haiku「わかんない」
Mistral Small 3「わかんない」
Mistral 7B (CPU - Small, Standard)「わかんない」

スレッドを表示

Gemini 2.5 Pro「出来るかも」
g.co/gemini/share/c9f769a62ca5
Gemini 2.5 Flash「ある程度信用できるけど微妙」
g.co/gemini/share/485a4f82ae49
GPT o4-mini「現実性としてはかなり限定的」
chatgpt.com/share/684e48cd-41a
GPT 4o「十分にあり得ます」
chatgpt.com/share/684e490e-3da

スレッドを表示

ある大手企業と研究機関によるホワイトペーパーをLLMに読み込ませたところ、「内容とは無関係な不審な指示文」が目視で分からないところに埋め込まれててゾッとした話 - Togetter [トゥギャッター]
togetter.com/li/2563875

LLMが賢くなりすぎて、もうプロンプトインジェクションに意味がなくなってる?><;

もしかして、『MajiでKoiする5秒前』よりも後の曲って、(実はメイプルタウン由来なのに?)そのメロディ自体もモータウンビートのお約束パターンの一部だと思い込んで同じように使ってる・・・?><;
(オレンジもそう思い込んでた><;)

■楽曲寸評③ | sweet-insomnia-2017のブログ
ameblo.jp/sweet-insomnia-2017/

ここで『MajiでKoiする5秒前』をさらにパクった曲として、"虹野沙希(菅原祥子) "の"「ときめきキャンプファイヤー」 (1998)"って曲が挙げられててこれもお約束パターンだ><;

少なくとも邦楽のモータウンビート楽曲を大量に聴いてみたけど、
・・・つまり『MajiでKoiする5秒前』って、モータウンビートだから似てるって範囲を超えて、マジでパクリなんでは?><;

mstdn.nere9.help/@orange_in_sp

モータウンビート邦楽歌いだしメロディ検証>< 

[歌いだしのお約束パターン(?)になってる]
メイプルタウン物語(1986(おそらく1985))
広末涼子 MajiでKoiする5秒前(1997)
STAR☆ANIS Angel Snow(2012)
(↑ただし歌いだしでは無い)

[歌いだしのお約束パターンになってない]
松田聖子 ハートをRock (1983)
シーナ&ロケッツ スイート・インスピレーション(1984)
若林志穂 夏のバルコニー(1985)
山下久美子 SINGLE(1986)
本田美奈子 Oneway Generation(1987)
プリンセス プリンセス Diamonds(1989)
布袋寅泰 POISON(1995)
いきものがかり キミがいる(2010)
(↑さっきのnoteにあったけど、どの部分が同じかわかんなかった><;)

[微妙にそれっぽいけど違う?]
斎藤和義 歩いて帰ろう(1995)

スレッドを表示
古いものを表示
:realtek:

思考の /dev/null