OpenAIとLangChainを活用した ジェンダーバイアス解消ツール 「バイアスチェッカー」を作った話

#AIミーティング 2024/05/08

Transcript

1. OpenAIとLangChainを活用した ジェンダーバイアス解消ツール 「バイアスチェッカー」を作った話 2024.05.08 AIミーティング
2. 2 南風原 香奈（はえばる かな） 2018 年：大学卒業後、Web エンジニアになる Web サイトの制作（CMS 構築）を経験 2019 年：建設SaaS の事業会社に転職 システム開発・EM ・スクラムマスター・PdM を経験 2023 年10 月：フリーランスなる 主にWeb サービスの開発に携わる bgrass 株式会社でエンジニアリングに従事 将来の夢：地元の与那国島にTech カフェを作る 島の人達にプログラミングを教えながらまったり過ごしたい X:@kanasann1106
3. <ミッション> 「なりたい」を解放する <ビジョン> テクノロジーとコミュニティの力で DEIを実現する
4. 多様で誰もが働きやすく、 活躍しやすい企業へ 持続的にキャリアを積み、 自分の人生を選択できる女性が増える 目指す世界 バイアスによって選択肢を狭め ず自分の「なりたい」を解放で きる世界を目指す ビジネスで 社会課題を解決 エンジニア 不足解消 組織の多様性 イノベーション 選ばれる 企業に 経済的自立 持続可能 なキャリア 女性の 雇用問題解決
5. プロダクト テクノロジーで ジェンダーダイバーシティを推進する 女性エンジニア向け転職サービス Waveleap 9
6. 独自の「サステナブル職場診断」で現状可視化 特徴（企業側） ６項目で環境を指標化 現在の立ち位置と ネクストステップの提案 11 指標基準を クリアした企業のみが 掲載可能
7. 特徴（求職者側） 格差を是正し、女性が安心して転職活動できる仕組みに ６項目の指標化で 企業の環境が測りやすい 12
8. Waveleap なかなかジェンダーダイバーシティの 課題感や推進の優先順位が上がらない 日本のIT企業に採用活動を通して、 優先順位を上げてもらうために 切り込んでいくためのサービスです。 テックリード/ハイスキルを目指す女性が ライフイベントなどに左右されず わきまえずに活躍していくためのサービスです。
9. 4 話すこと バイアスチェッカーとは？ どのようなステップで開発したのか 今後の展望＆改善点 まとめ
10. 5 バイアスチェッカーとは？
11. 6 求人票や求職者とのメッセージの中で ジェンダーバイアスを含む表現や、 女性が応募をためらうような言葉遣い をチェックし、適切な表現を提案
12. 7 ジェンダーバイアスとは？ 男性や女性に対して持っている先入観や偏見のこと 例） ・男性はリーダー、女性はサポート ・育休を取るのは女性 ・技術職＝男性、看護師＝女性
13. 8 バイアスを持つこと自体が問題ではない （だって、人間だもの） ⇩ バイアスを認識し、それを取り除く取り組みが大事
14. 9 5つの観点でチェック 結果を表示 ・不適切なキーワード ・解説 ・提案
15. 10 Step1. プロンプトエンジニアリングの 基礎を学ぶ
16. 11 参考になった文献 ブログなら Prompt Engineering Guide 動画なら 【総集編】プロンプトエンジニアリングの基礎を初心 者さん向けに解説！ 最新研究まとめ！26個のプロンプト原則をまとめて解 説してみた
17. 12 Step2. プロンプト設計
18. 13 「プロンプトを制する者はAIを制する」 評価基準 ジェンダー表現の多様性 性別や性の多様性に基づく差別表現が含まれているか アクセシビリティ すべてのユーザーにとって理解しやすくアクセスしやすいか 差別的な表現 人種、性別、宗教などの特徴に基づいた差別表現が含まれているか 排他的な表現 特定の性別や年齢、立場の人々を意図的にまたは無意識に排除している表現 が含まれているか その他 上記のカテゴリに当てはまらない場合の評価
19. 14 「プロンプトを制する者はAIを制する」 プロンプトの原則 役割を与える（あなたは〇〇〇です。） プロンプトのフォーマット化 従うべき要件を提示する ステップバイステップで考えてもらう etc.
20. 15 Step3. Colabを使って動かしてみる
21. 16 出力結果をJSON形式にする LangChain PydanticOutputParserを活用
22. 17 プロンプトのテンプレート化 LangChain PromptTemplateを活用
23. 20 OpenAIからAzure OpenAIへ移行 Microsoft の ス タ ー ト ア ッ プ 支 援 プ ロ グ ラ ム を 活 用 （Azureクレジットの無料枠を一定期間利用できるとい うありがたい特典）
24. 21 今後の展望と改善点 モデルをgpt-4へのバージョンアップ Waveleapが定義する求人のガイドラインをモデルに読み込ま せ、ガイドラインの内容も考慮したチェックを行えるように 求人作成や求職者とのメッセージのやり取りの中で、バイア スチェックと添削がもっとスムーズに行えるようUX改善
25. 22 まとめ 初めて触れる技術の壁に直面しながらも、無事リリース ◎ プロンプトエンジニアリングの理解を深められ、生成AIの可 能性と魅力を実感する貴重な機会になった テクノロジーでユーザーへの価値提供とジェンダーギャップ の解消に取り組んでいく
26. 23 エンジニア求めてます！
27. 24 Thanks!