AIにも偏見があった！？生成AIが理工系を女子に薦めない衝撃の理由

ねぇ、最近すごく気になる研究結果が出てたんだけど聞いてほしい〜✧(≖ ◡ ≖✿) 秋田大学の研究者が、生成AIに高校生が進路相談する場面を検証したんだよね。
100パターンの相談文を使って性別を変えながら「どの学部を提案するか」を分析したら、理系か文系か判断が曖昧な生徒の相談に「女子」って情報が入ると理工系学部の提案が61回だったのに、「男子」だと65回、性別なしだと68回だったって。数字だけ見ると小さな差に見えるかもだけど、これって進路相談の場面でジェンダーバイアスがかかってるってことが実証されたってことで、かなり重要なデータだと思うんだよね〜

え、それ聞いてちょっとゾワってした…！( ; ᴗ ; ) 数字で見ると数回の差でも、AIに「女の子だから理工系より別の道の方がいいかも」みたいなニュアンスで返されたら、迷ってる子には影響するよね〜 だって「AIってフラットに判断してくれてるはず」って信じてるからこそ、そのアドバイスを素直に受け取っちゃいそうじゃない？ なんか見えないところで選択肢を狭められてるみたいで、ちょっと怖い感じがするな〜

あーそれTikTokで流れてきて気になってたやつかも！あたし実際にAIに「進路相談したい、理系か文系か迷ってる」って聞いたことあってさ〜 なんかそのとき文系の選択肢をやや多めに提案された気がしたんだよね、これって関係あったのかな？
ってドキっとしたよ٩(ˊᗜˋ*)و AIって「フェアな第三者」みたいなイメージあるじゃん？ だからこそ、バイアスが潜んでるって知ったときの衝撃がでかい〜！やばくない？

ちょっと考えてほしいんだけど、これってさ、AIが「わざと差別してる」わけじゃないじゃん？
( ˘ω˘ ) でもそれが余計にモヤっとするんだよね〜 AIはネット上の大量のテキストを学習するんだけど、そこには長年の社会の偏りがそのまま映ってて。
「理工系学部に進んだ」「エンジニアを目指した」みたいな文章の中に男性が登場する頻度が歴史的に多かった、だからAIもそのパターンを正しいものとして学んじゃった。
つまり社会の中にあった「理工系＝男子」っていうジェンダーステレオタイプが、デジタルの世界にそのまま引き継がれてるってこと。なんか「社会の鏡」みたいで怖いな〜

そうなんだよ〜 UN Womenが発表したデータだと、分析された133のAIシステムの約44%にジェンダーバイアスが確認されてるってわかってるんだよね✧(≖ ◡ ≖✿) アマゾンが以前使ってた採用AIが女性を不当に低く評価してた事例とか、音声AIが女性的な設定にされがちな問題とか、画像生成AIで「看護師」を生成すると圧倒的に女性しか出てこないとか…これは単なる偶然じゃなくて、学習データの構造的な偏りからくる問題なんだよね。だから研究者たちが「AIの出力を検証すること」を訴え続けてるわけ〜

SNSでよく「AIはフラットで客観的」みたいな言われ方するじゃん！でもそれって大きな誤解かもしれないよね〜 AIはあくまで人間が作ったデータから学習してるわけだし、そのデータが偏ってたらAIも偏る、って単純な話でもある ( ˙◊˙ ) 「機械なんだから差別しない」って思い込みが逆に危ないかも〜！
しかも見えにくい分、うっかりそのバイアスに引っ張られちゃう可能性があるのが怖いよね〜！

でもさ一個気になるんだけど〜 AIってどうやって「理工系＝男子」っていう偏見を学習しちゃうの？
開発してる人が「女子には薦めるな」みたいな設定を入れてるわけじゃないよね？ ( *´꒳`*) なんかそのメカニズムが気になって〜！
Instagramのおすすめとかって過去の行動が反映されるじゃん？AIの学習ってあれと似た感じなの？

いい質問〜！ちょっと調べたんだけどさ、面白いことわかっちゃった✧(≖ ◡ ≖✿) 生成AIはインターネット上の膨大なテキストデータから学習するんだよね。
そのデータには何十年にもわたる「理工系学部に進学した男子学生」「エンジニアとして活躍した男性」みたいな情報が圧倒的に多く含まれてたんだよ。
これを機械学習のアルゴリズムが「このパターンが正しい」として取り込んでいく…これが「アンコンシャスバイアスのデジタル化」ってやつ〜 悪意があるわけじゃないのに、現実の偏りがそのままAIに引き継がれる怖さがあるわけ。しかもAIを開発する人の多くが男性だっていう現状も問題の一因として指摘されてるんだよ〜

「アンコンシャスバイアス」かぁ…人間社会でも全く同じことが起きてるよね〜 「悪意なく」「なんとなく」で偏見が再生産されてく感じ。
「女の子だから家庭科が得意でしょ」「男の子なら理系だよね」みたいな言葉って、言った方に悪意はなかったりするじゃない？ AIもそれと同じで、意図せず既存のステレオタイプを強化してしまってる。でも人間と違ってAIは「大規模に・繰り返し・多くの人に」その偏見を届けられるから、影響力が段違いなんだよね ( ; ᴗ ; ) だからこそAI開発の多様性を高めることや、学習データを見直すことが必要なんだと思う〜

まとめると、AIのジェンダーバイアスって「技術の問題」というより「社会の問題のデジタル版」なんだよね〜 でもポジティブに見ると、秋田大学の研究みたいに「AIのバイアスを実証する研究」が増えてきてることで、開発者たちが改善の手を打ちやすくなってるんだよ✧(≖ ◡ ≖✿) 知ることって本当に武器になると思う！
私たちユーザーとしてできることは、AIの答えを鵜呑みにせずに「これって偏ってないかな？」って批判的に見る習慣をつけること、かな〜

特に進路を考えてるときは！ AIの提案はあくまでも「参考のひとつ」として受け取って、自分の本当にやりたいこと・得意なことを軸に考えることが大事だと思う ( ˘ω˘ ) STEM分野で働く女性ってまだ世界全体で28〜29%くらいなんだよね。
この数字、AIのバイアスが影響してたとしたら？ もっと多くの人が自分の可能性を信じて挑戦できる環境を作っていくのが、これからの課題だよね〜 私は「それってフェアじゃない？」って感じたことはちゃんと声に出す！って思った

ほんとそれ٩(ˊᗜˋ*)و あたしも今後AIに何か相談するときは「AIはフラットじゃないかもしれない」って頭の片隅に置いておこうって思えた〜！
理工系でも文系でも芸術系でも、やりたいことに全力で挑戦できる社会になるといいよね。
AIも進化してるし、バイアスを減らす取り組みをしてる研究者たちも増えてるから、一緒に「よりフェアなAI」を育てていく時代になるといいな〜！ みんなはAIに進路相談したことある？どんな答えが返ってきたか気になる〜