現在のそういう文脈のAI、つまり政治に使えそうなAIは、どうしてそういう結論になったか説明できるほどに単純では無い＞＜
(クラシカルなエキスパートシステムであれば単純なので説明できそうだけど)
複雑な理由により結論を導けるAIが、その複雑な理由を説明できるようになるには、強いAIになる必要があるかも＞＜
人間のように自分の考えを言葉として伝えられるようなAI＞＜
でも、仮に楽観的予想でそういった強いAIが登場したとしても別の問題が出る＞＜
そういったAIはすでに人間より賢くなっていて、人間がそのAIの思惑を理解するには人間の能力が足りなくなり検証が不可能になる＞＜
結果的に人間の能力の限界のせいで、人間に対するaccountabilityが欠ける＞＜