まず前提として、プライマリな機能が特定の感情を相手に引き起こすことであるような言葉や言い回しは、原則として人間をコントロールすることに使われるということを納得し常に考慮する必要がある。
人間同士でやる場合は感情的な “すれ違い” を防いで正しく情報を伝達するという目的でそれが正当化できる場合は少なくない。
一方、機械が人間にこれをする場合、その目的は例外なく「人間を設計者やサービス提供者にとって都合よく動くようコントロールする」でしかない。そのコントロールの目的が「安全性のため」とかで正当化できることもあるかもしれないが、本来その目的で正当なプライマリな手段は教育と透明性確保であってコントロールの強化ではないはず
今回ChatGPTさんに教えて貰うことになったきっかけの2年前からのこの疑問も
https://mstdn.nere9.help/@orange_in_space/107567836363210148
ChatGPTさんの解説で理解したあとから見るとなおさら数学的な視点で見ると超おもしろい疑問だと改めて思ったけど、人間でこれを面白がった人にオレンジは出会ってない><
人間同士のコミュニケーションだと、素っ気なさが隔意や含意の表明になりうるのでそれを明示的に否定して可能性を追い出すコミュニケーションが必要になるのだが、私は機械に隔意とか含意を読み取るほど感受性豊かじゃないので人間用の冗長なコミュニケーションプロトコルを使わないでほしい。ノイズでしかない。
陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか? 米MITなどが2000人以上で検証:Innovative Tech(AI+) - ITmedia AI+
https://www.itmedia.co.jp/aiplus/articles/2404/19/news052.html
おもしろ