Ethics Processing Unit

AIの事なんもわからんけど暑くて眠れないのでメモ

• 今日の計算機はアートを行うところまで来た
  • 3DCG, GAN,トゥーンレンダリング
  • 創るためのAI
• 古典的な計算機/AIは、答えや目的のある問題を解く
• アートや「面白い」AIは、人間が評価できる問題に挑戦する
  • アートの美しさ、面白さは人間が評価する
• では、人間が評価できない問題については？
  • すなわち、善悪、倫理について
  • いわゆるAI倫理（AIの使い方の倫理的側面についての議論）ではなく、AIが倫理をやる
• 倫理をやる、とは
  • 人間は、ある行動/問題の倫理的側面について議論を行う
  • AIが倫理について議論を行えればよい
    • 人間は結論だけをみて評価を行えないので、AIの思考経過を見て、人間社会に合致するかどうか判断を下すことになる
• とはいえ、功利主義に則れば倫理も定量的な評価が可能になる？
  • 倫理ベンチマークを回すことになる
    • トロッコ問題みたいな倫理クイズがたくさん詰まった最悪の倫理データセット
• 倫理処理装置（Ethics Processing Unit）
  • 多くの人々に受け入れられるような倫理的思考を行うユニット
  • アプリやWebサイトが「邪悪な挙動」をしたら弾く、とかできる
  • デジタル・エシカル・ウェルビーイング
    • ユーザーが非倫理的な行動をしたらiPhoneが叱ってくれる
  • 社会の倫理的なモードが変わったら評価スコアも変わってくる
  • ティムクックが "The new E2 chip is 10x more ethical than before" とか言う
• 計算が大変すぎでは？
  • 中央に倫理サーバーが存在し、端末には倫理の結論とその思考過程のツリーが流れてくる
    • 倫理計算過程をブロックチェーンで表現（であるからしてチェーン）
      • A -> 故にB -> 故にC
      • これ人力でもいけるな
        • 倫理トランザクション
        • Aさんが現在の倫理計算過程 a の続きをBさんに渡す
        • Bさんの倫理結果 b にAさんが合意
        • a -> 故にb というトランザクションが発生
        • 伝言ゲームなので一瞬で破綻しそう
  • EaaS (Ethics as a Service) が登場する
    • 各倫理プロバイダごとに倫理の特色がでてくる
    • Blazing fast ethics provider
    • Prologとかで書かれてると尚良さそう
• 倫理についてもAIが人間を追い越したらどうなる？
  • 将棋AIみたいになる？
  • AI様が提示した倫理を元に人間が行動する