ダウンロード (1)

焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で

［サンフランシスコ　１０日　ロイター］ - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきたＡＩ（人工知能）を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

事情に詳しい５人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを駆使して探し出す仕組みを構築するため、２０１４年から専任チームが履歴書を審査するプログラムの開発に従事してきた。

そこで生まれたＡＩ活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を５点満点でランク付けする。関係者の１人は「だれもが求めていた究極の方法だ。このツールが５点の応募者を明示し、われわれが彼らを採用する」と話した。

ところが１５年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに１０年間にわたって提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると評価が下がる傾向が出てきた。関係者によると、ある２つの女子大の卒業生もそれだけで評価を落とされた。

アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、最終的に昨年初めにチームは解散したという。

また関係者によると、アマゾンの採用部門はＡＩシステムが示した評価に目は通したが、これだけに頼って実際の採用を決定してはいない。

アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した時期に当たっていた。規制当局の届出に基づくと、１５年６月以降で社員総数は３倍超に膨らみ、５７万５７００人に達している。

キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約５５％は、今後５年以内にＡＩが仕事の一部に組み込まれるとの見方を示した。

採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

続きはソースで

ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

5: 名無しさん＠涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:34:21.47 ID:xcjxOdDw0
そのAI優秀なのでは...

6: 名無しさん＠涙目です。(catv?) [US] 2018/10/11(木) 22:35:17.99 ID:ZpmZl5dh0
>>5
優秀過ぎてもクビになるなんて人間そっくりだなwww

27: 名無しさん＠涙目です。(北海道) [ﾆﾀﾞ] 2018/10/11(木) 22:44:36.28 ID:qJjaDfFo0
>>6
中国のAIも共産党は糞って言ってクビになったしな

12: 名無しさん＠涙目です。(庭) [GB] 2018/10/11(木) 22:38:09.04 ID:PpvWlAk+0
>>5
コレ

17: 名無しさん＠涙目です。(大阪府) [US] 2018/10/11(木) 22:40:43.48 ID:yZ8zPFJZ0
>>5
かなり

62: 名無しさん＠涙目です。(山口県) [EU] 2018/10/11(木) 22:58:18.87 ID:fr+ik2rB0
>>5
真実を突いちゃったか...

9: 名無しさん＠涙目です。(SB-iPhone) [EU] 2018/10/11(木) 22:37:24.34 ID:9GCQBpu30
いや、それ、統計の正しい解釈結果だからさ、差別関係ないんだけどな。

100: 名無しさん＠涙目です。(茸) [DE] 2018/10/11(木) 23:11:31.71 ID:7uENic0b0
>>9
元のデータに差別が含まれてたら、自動的に差別を再生産するって問題だろう

14: 名無しさん＠涙目です。(埼玉県) [NO] 2018/10/11(木) 22:39:47.91 ID:691g7aid0
AIには建前の機能をつける必要があるな

30: 名無しさん＠涙目です。(東京都) [KW] 2018/10/11(木) 22:45:42.60 ID:HPIPjB++0
>>14
それも学習すりゃいいんだがエンジニアが嫌うんだわｗ

16: 名無しさん＠涙目です。(チベット自治区) [MX] 2018/10/11(木) 22:40:26.02 ID:nQt2MdxT0
都合が悪いと欠陥認定

18: 名無しさん＠涙目です。(広西チワン族自治区) [ES] 2018/10/11(木) 22:40:58.79 ID:K85pC/0yO
そら単なるデータの解析すりゃそうなるわ

19: 名無しさん＠涙目です。(神奈川県) [US] 2018/10/11(木) 22:41:03.39 ID:oUi3y8Fc0
真実を答えたら粛清されたか…。

29: 名無しさん＠涙目です。(やわらか銀行) [GB] 2018/10/11(木) 22:45:09.05 ID:hYgMJFgj0
事実に基づいているのに、何が欠陥なんだ？

34: 名無しさん＠涙目です。(空) [IN] 2018/10/11(木) 22:46:32.11 ID:Wt/e8UPl0
>>29
都合が悪い

32: 名無しさん＠涙目です。(愛知県) [ﾆﾀﾞ] 2018/10/11(木) 22:46:19.43 ID:G8NP8+j90
公平になんて永遠に無理

36: 名無しさん＠涙目です。(埼玉県) [ﾆﾀﾞ] 2018/10/11(木) 22:46:46.41 ID:2/SIrEMJ0
つまり今までの女性チェス部部長は、アマゾン入社後ろくな働きをしなかったと言うことじゃん。

41: 名無しさん＠涙目です。(庭) [CN] 2018/10/11(木) 22:48:51.74 ID:0KR+Ctw90
AIは正直すぎるな

44: 名無しさん＠涙目です。(catv?) [JP] 2018/10/11(木) 22:50:46.19 ID:o2gRbZ5r0
AIには嘘も学習させないとな

48: 名無しさん＠涙目です。(四国地方) [KR] 2018/10/11(木) 22:51:18.40 ID:7RdxmXXV0
AIには建前というものが無いからな…

61: 名無しさん＠涙目です。(神奈川県) [US] 2018/10/11(木) 22:58:07.34 ID:oUi3y8Fc0
>>48
家系や性別、人種なんて生まれ持った物が全てだからな。

本当は誰に生まれたかで先天的に能力の大半は決まってるけど、
それだと不満が出るからわざわざ入試なり面接なりをやって才能不足を極力努力不足という本人の責務に転嫁してるわけだ。

AIにはそんな人間の面倒臭い事情を理解出来ないから、つい残酷な真実を突きつけてしまうんだろう。

51: 名無しさん＠涙目です。(東京都) [US] 2018/10/11(木) 22:53:01.30 ID:J0xDK7uz0
だからそのＡＩの判断が正しいんだよ

53: 名無しさん＠涙目です。(東京都) [RU] 2018/10/11(木) 22:54:17.68 ID:4vgAZgrL0
こんなことやってると、そのうちAIは正しい判断をしなくなる
うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる

55: 名無しさん＠涙目です。(庭) [ﾆﾀﾞ] 2018/10/11(木) 22:54:49.89 ID:niggjKym0
初めから欠陥と決め付けると、問題が解決しない

74: 名無しさん＠涙目です。(東京都) [US] 2018/10/11(木) 23:01:44.95 ID:5iK+uwO30
やはり人間が意思決定する組織はだめだな

91: 名無しさん＠涙目です。(東京都) [US] 2018/10/11(木) 23:07:58.35 ID:s8MLDofE0
性別によって得手不得手な分野があるので互いに協力しながら欠点を補う社会
の方が正しいと思うな。　強引に性別差を無くそうとすると破綻するでしょ。

97: 名無しさん＠涙目です。(大阪府) [US] 2018/10/11(木) 23:10:14.47 ID:yZ8zPFJZ0
>>91
それがほんとうの意味での差別のない平等な社会だよ
今のは絵空事を実現するために現実を歪めているだけだ

http://hayabusa3.2ch.sc/test/read.cgi/news/1539264659/