1: 名無しさん@涙目です。(宮城県) [US] 2018/10/11(木) 22:30:59.40 ID:0urIMr6l0● BE:601381941-PLT(13121)
sssp://img.5ch.net/ico/anime_kuma01.gif
焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

[サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。

事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。

そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
応募者を明示し、われわれが彼らを採用する」と話した。

ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。

また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。

アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。

キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
一部に組み込まれるとの見方を示した。

採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

続きはソースで

ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

5: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:34:21.47 ID:xcjxOdDw0
そのAI優秀なのでは...

12: 名無しさん@涙目です。(庭) [GB] 2018/10/11(木) 22:38:09.04 ID:PpvWlAk+0
>>5
コレ

208: 名無しさん@涙目です。(大阪府) [GB] 2018/10/12(金) 00:03:06.58 ID:GTs4zxBs0
>>5
優秀過ぎるというのも問題だ。

252: 名無しさん@涙目です。(秋田県) [US] 2018/10/12(金) 00:30:47.63 ID:cde9enrr0
>>5
空気読むことも覚えさせんと

269: 名無しさん@涙目です。(四国地方) [ニダ] 2018/10/12(金) 00:52:55.70 ID:WXhI3N2i0
>>5
要らないなら欲しいわ

18: 名無しさん@涙目です。(広西チワン族自治区) [ES] 2018/10/11(木) 22:40:58.79 ID:K85pC/0yO
そら単なるデータの解析すりゃそうなるわ

20: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:41:25.25 ID:5nhCQZLX0
空気を読むって高度なことにいきなり挑戦しないと存在を許されないんだから大変だな

21: 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 22:42:01.90 ID:8mZFgXNn0
わろた

22: 名無しさん@涙目です。(庭) [JP] 2018/10/11(木) 22:42:19.91 ID:GfVmEMok0
食わせる学習用のデータが偏ってたんだろ

26: 名無しさん@涙目です。(茸) [AT] 2018/10/11(木) 22:44:23.65 ID:eDJsyI720
昔ながらの分析やってる感じしかしない
AIって

32: 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:46:19.43 ID:G8NP8+j90
公平になんて永遠に無理

49: 名無しさん@涙目です。(東京都) [US] 2018/10/11(木) 22:51:28.66 ID:ZMHGgkQd0
>>40
お前はつくの?

315: 名無しさん@涙目です。(アメリカ合衆国) [US] 2018/10/12(金) 01:53:59.93 ID:e3jw7yUK0
>>49
お前つかないのか

427: 名無しさん@涙目です。(catv?) [ニダ] 2018/10/12(金) 07:50:37.79 ID:sRB76p160
>>40
それはGoogleさんやでー

48: 名無しさん@涙目です。(四国地方) [KR] 2018/10/11(木) 22:51:18.40 ID:7RdxmXXV0
AIには建前というものが無いからな…

50: 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:52:55.15 ID:70xIDWtC0
目的の与え方が稚拙
「優秀な・・・」ではなく「会社が有利になる・・・・」でやり直せ

55: 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 22:54:49.89 ID:niggjKym0
初めから欠陥と決め付けると、問題が解決しない

75: 名無しさん@涙目です。(愛媛県) [FR] 2018/10/11(木) 23:02:07.73 ID:isKoAPBv0
てか、何で性別条件入れたんだ?

178: 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 23:49:35.44 ID:rkzP3DxV0
結局データを受け取る側が期待するポリコレを満たしてなきゃNGにするんだろ
これみたいに
no title