AIは単なるプログラムコード、作成の意図を見極める(朝日新聞記事から)

AI(人工知能)とは何?そういう疑問を持っている人は多いと思う。僕もその中の一人だ。11月7日の朝日新聞インタビューで数学者「キャッシー オニール」さんは「AIはどう動いているのか」という質問に対してこう表現している。

「考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがAIです。ここで大事になるのは、その『成功』を誰が定義するかです。夕食に何を作るかについて考えてみましょう。私にとっての成功は、息子が野菜をたくさん食べることですが、息子にとっての成功は甘いものをたくさん食べるこです。しかしキッチンにおける権力は私が握っていて『何をもって成功か』を決めます。誰が、AIのアルゴリズム(数式)を支配しているかが問題なのです」

「例えばAIの犯罪予測に従い、犯罪率の高い地域を重点的に警察官が見回ると、結果として黒人が多く住む地域と重なることがあります。そのため実際は違法行為をする割合に人種間の違いがなくても、黒人が逮捕される確率が上がる。裁判でも居住地域や家族の犯罪歴のデータにより再犯率が高く予測されるので、刑期も長くなる。社会復帰が難しくなると、再犯の可能性が高まるー。そんな負の循環が生まれ、AIの予測は正確だと思えてしまうのです。これが『AI]のわな」です」

個人のデータを徹底的に管理した方が効率的な社会になりませんか、との質問に。
「借金の返済歴や、普段のふるまいなど個人のデータを組み合わせて点数をつける『社会信用システム』を進める中国政府は、まさにそのような考え方をしているのでしょう。『気に入らなければ、点数が上がるよう努力しろ』と。努力しないのは自己責任という理屈です」

「例えば、糖尿病になるかどうかは自分ではコントロールできない要因があるのに、『あなたの恥ずべき選択の結果です』と自己責任にするために利用されかねません。その方が支配者にとって都合がよいからです。そうした人を生み出すのは社会の恥という側面もあるはずですが、個人の恥へと転嫁してしまうのです。」

「『恥』がもたらした過去の行動を、AIが『この人は将来的にも価値がない』と判断し、さらに悪い事態を招くのです。本人が気づかない形で、デジタル上で『恥ずべき過去』のプロファイルがまとめられていきます。就職や融資で不利な扱いを受けることも起きるでしょう。なぜだかわからないけれどうまくいかない、ということが続くと、次第に『自分はだめな人間だ』と思ってしまいます」

「AIは自動運転や囲碁のように、過去のデータからシュミレーションできるものへの応用は優れています。でも高齢者など人間へのケアは不確実で、創造力が求められるのです。未曽有の少子高齢化は、過去のデータがないでしょう。それをAiが解決するなんて考えれません」

「AIに英知はありません。『何が正しいのか』は、AIが決して触れられない領域なのです。」

価値判断ができないとのですね、という質問に。
「良い社会かどうかが、経済成長しているかで決まるならば、AIのアルゴリズムは効率優先になります。・・・AIが使われるプロセスの全体と目的を見る必要があります。」

「データを使う側は、『AIはデータから答えを導き出しているので客観的です』というでしょう。ですがAIをつくるのは人間であり、その価値観が反映されます。人間であれば、責任を問うことができますが、AIは単なるプログラムコードです。私たちはシステムを妄信することなく、権利を主張して疑問を突きつけていかねばなりません」

ブログ気持玉

クリックして気持ちを伝えよう!

ログインしてクリックすれば、自分のブログへのリンクが付きます。

→ログインへ

なるほど(納得、参考になった、ヘー)
驚いた
面白い
ナイス
ガッツ(がんばれ!)
かわいい

気持玉数 : 0

この記事へのコメント