aamall

機械学習

2018年02月23日

AIによる偏見と差別

AIに学習させるための教材は人が選びます。そしてその教材はテキストデータや画像データなどがあり、いずれも人間がつくったものです。

学習用の教材が客観的なデータでない場合、そのデータには、偏見や差別を含んでいる場合があります。そしてその教材をAIがそのまま学習するため、AIも人間と同じように偏見と差別を持ってしまう可能性があります。ある特定の人やものを差別するようなAIを意図的に生み出すことも可能だと言うことです。特に、AIが人の評価に使われる場合、これは大きな問題になります。

この問題を解決するために、極端に偏ったデータを使用しないことがまず考えられます。
また現在では、偏見と差別をAIから除く取り組みがされています。

(本郷理一)


robotbusiness at 09:00|Permalink

2017年10月12日

AIが偏見と差別を人から学習する可能性

最近では、AIに文書を読み込ませて学習させることがあります。
読み込ませる文書は人間が作ったものです。
よってこの場合、AIは人間から学習するということになります。

ここで問題になるのが、偏見や差別を含んだ文書をAIがそのまま学習するため、AIも人間と同じように偏見と差別を持つということです。
AIが人の評価に使われる場合、これは大きな問題になります。
この問題を解決するために、偏ったデータを使用しないことがまず考えられます。
また現在では、偏見と差別をAIから除く取り組みがされています。

(本郷理一)




robotbusiness at 11:53|Permalink
管理人プロフィール
日本ロボコム代表
学生起業家
本郷理一(ほんごう・りいち)

大学で建築を学びながら、日本ロボコム株式会社の設立に加わる。
また、「ロボット住宅」に関わる新会社の設立準備を行う。
合わせて、単なるビジネスを超えたソーシャルイノベーターの道を探る。
「ロボットビジネス勉強会」の月例会で「ロボットビジネスセミナー」の講師を務めている。
応援クリック
いつもおつきあいくださり、ありがとうございます。
皆さまに応援していただくと大きな励みになります。

ギャラリー
  • 第6回ロボットビジネス勉強会参加者募集
  • スマートロボティクスが登場
  • スマートロボティクスが登場
  • 月刊ロボットビジネスVol.3発行
  • 月刊ロボットビジネスVol.3発行
  • 第3回ロボットビジネス勉強会参加者募集
  • 第2回ロボットビジネス勉強会(東京・銀座)参加者募集
  • 第2回ロボットビジネス勉強会(東京・銀座)参加者募集
  • ロボットビジネス勉強会 月刊ロボットビジネス