AI の多様性危機が重要な理由とそれに対処する方法

Jan 12, 2024

レイチェル・クロウェルは、アイオワ州デモイン近郊に拠点を置くフリーのジャーナリストです。

PubMed Google Scholar でこの著者を検索することもできます

この記事には所属機関を通じて完全にアクセスできます。

インクルーシビティ グループは、将来の人工知能プロジェクトの多様な構築者の促進に重点を置いています。クレジット: Shutterstock

人工知能 (AI) は多様性の危機に直面しています。 早急に対処しなければ、AI の労働文化の欠陥が偏見を永続させ、それが結果として生じるテクノロジーに浸透し、人々のグループ全体を排除し、害を及ぼすことになります。 その上、結果として得られる「知性」には欠陥があり、さまざまな社会的、感情的、文化的知識が欠けています。

ニューヨーク大学の AI Now Institute の 2019 年のレポートでは、研究者らは AI 教授の 80% 以上が男性であると指摘しました。 さらに、Google 従業員に黒人が占める割合はわずか 2.5%、Facebook と Microsoft で働く従業員の 4% にすぎません。 さらに、報告書の著者らは、AIにおける多様性問題を議論する際の「『テクノロジー業界の女性』への圧倒的な焦点の当てはまりが狭すぎ、白人女性を他の女性よりも特権的に扱う可能性が高い」と指摘した。

変化を求めて闘っている研究者もいますが、彼らの取り組みに抵抗する文化も存在します。 VDI/VDE Innovation + Technik の科学コンサルタント、Sabine Weber 氏は次のように述べています。ベルリンに本社を置くテクノロジーコンサルティング会社。 AIの擁護団体「Queer in AI」の中心的主催者であるウェバー氏は、どちらの分野のAIも「裕福な背景を持つ中年の白人男性が大半を占めている。彼らは現状に非常に執着している」と語る。 Nature は、現状を変えて AI エコシステムをより公平なものにする取り組みの先頭に立っている 5 人の研究者に話を聞きました。

ジョージア州アトランタにある Shopify のシニア データ サイエンス マネージャーであり、2023 年の Deep Learning Indaba カンファレンスの総合議長も務めています。

私はガーナ出身で、2011 年にオハイオ州のアクロン大学で統計学の修士号を取得しました。私の経歴は、機械学習を使用してカスタマー エクスペリエンス管理におけるビジネス上の問題を解決することにあります。 私は分析スキルを応用して、顧客をターゲットにしたレコメンデーション システム、潜在顧客のランキング、さまざまなコミュニケーションでどの顧客に連絡するかを優先順位付けするリード スコアリングの側面など、顧客の行動を促進するモデルを構築します。

今年は、毎年アフリカの別の国で開催されるアフリカの機械学習と AI コミュニティの会議である Deep Learning Indaba の総合議長も務めています。 昨年はチュニジアで開催されました。 今年は9月にガーナで開催されます。

私たちの組織はアフリカ全体のために作られています。 昨年は52カ国が参加した。 目標は、アフリカ54カ国すべての代表を獲得することです。 Deep Learning Indaba は、各国が現地で物事を推進する人々のネットワークを持つことを可能にします。 年次カンファレンスである主力イベントと、国別の IndabaX イベント (TED や TEDx トークを思い浮かべてください) があります。

ガーナの IndabaX カンファレンスでは、プログラミングの方法とさまざまな種類のデータの扱い方について研修を行っています。 また、ガーナ国外の業界で何が起こっているのか、ガーナがどのように関与すべきかについてのワークショップも行っています。 IndabaX は資金を提供し、Deep Mind、Microsoft、Google などの企業に勤務する著名な研究者である講演者を推薦します。

ガーナにおける機械学習、AI、インクルージョンを強化するには、若い研究者や学生を訓練して、この分野で優れているために必要なスキルセットと準備を理解できるように能力を構築する必要があります。 私たちが直面している最大の課題はリソースです。 私たちの経済状況は、政府とほとんどのガーナ人が人々の日々の糧に焦点を当てているようなものです。 ほとんどのガーナ人はテクノロジー変革についてさえ考えていません。 地元の学者の多くは、学生を指導し、AI や機械学習の基礎を身につけるための専門知識を持っていません。

私たちが今日使用しているアルゴリズムやシステムのほとんどは、アフリカ外の人々によって作成されました。 アフリカの視点が欠けており、その結果、偏見がアフリカに影響を及ぼしています。 画像関連の AI をやっているとき、アフリカの画像はあまりありません。 アフリカのデータ ポイントは、ほとんどの業界の機械学習データ セットの 1% にすぎません。

自動運転車に関して言えば、米国の道路網は素晴らしくきれいですが、アフリカの道路網は非常にデコボコで、穴がたくさんあります。 米国や英国の道路で訓練された自動運転車がアフリカで実際に機能するわけがない。 また、病気の診断に AI を使用することで人々の生活が変わることも期待されています。 しかし、人々がアフリカに行ってデータを収集し、アフリカの医療や関連する社会支援システム、病気、人々が暮らす環境を理解することがなければ、これはアフリカの助けにはなりません。

現在、AI や機械学習を学ぶアフリカの学生は奨学金を探して母国を出て勉強しなければなりません。 私はこの変化を見たいと思っていますし、アフリカ人が意思決定に関与し、機械学習とAI研究における大きな進歩を先導する姿を見たいと思っています。

アフリカ外の研究者は、アフリカの既存の取り組みを指導したり協力したりすることで、アフリカの AI をサポートできます。 たとえば、英語を 30 以上のガーナ言語に翻訳するアルゴリズムの構築に焦点を当てた取り組みであるガーナ NLP があります。 アフリカ特有の研究に自らのスキルセットを貢献するボランティアの世界的な研究者が、このような取り組みを支援します。 Deep Learning Indaba には、研究者がメンターに登録できるポータルがあります。

Maria Skoularidou 氏は、主要な人工知能のカンファレンスでアクセシビリティの向上に取り組んできました。 クレジット: Maria Skoularidou

英国ケンブリッジ大学の生物統計学の博士号取得候補者であり、{Dis}Ability in AI の創設者および会長。

私が 2018 年に {Dis}Ability in AI を設立したのは、カンファレンスに障害者が参加していないことが正しくないと感じたからです。 私は、カンファレンスが包括的でアクセスしやすいものとなり、私のような障害者もカンファレンスに参加できるように、そのような運動を始めたいと思いました。

その年、カナダのモントリオールで開催された NeurIPS (神経情報処理システムに関する年次会議) には、少なくとも 4,000 人が参加しましたが、目に見えて障害があると分類できる人を 1 人も特定できませんでした。 統計的には、障害のある参加者が一人もいないということは意味がありません。

アクセシビリティの問題も数多く観察されました。 たとえば、色覚異常について無配慮なポスターを目にしました。 会場は非常に混雑していたので、車椅子、白杖、介助犬などの補助具を使用している人はポスターセッションに参加する余地がなかったでしょう。 エレベーターはありましたが、会場の広さを考えると、体の不自由な人にとって、すべてのセッション ルームにアクセスするのは簡単ではなかっただろう。 手話通訳者もいなかった。

2019 年以来、{Dis}AI の能力は、NeurIPS でのアクセシビリティの向上に貢献してきました。 通訳がおり、聴覚障害のある人のために字幕が付いていました。 運動能力や視覚に障害のある人々が助けを求めてきた場合、ボランティアの付き添い人がいた。 大規模な会議は圧倒される可能性があるため、ホットラインカウンセラーとサイレントルームがありました。 その考えは、「これが私たちが現在提供できるものですが、私たちが倫理的、公正、平等、誠実でありたいと考えているため、何かに関して配慮が足りない場合はご連絡ください」というものでした。 障害は社会の一部であり、障害を代表し、包含する必要があります。

多くの障害のある研究者が、AI で直面する障壁についての恐怖や懸念を共有しています。 自分の慢性疾患についての詳細を安全に共有できないと言う人もいます。そうすれば、昇進、平等な扱い、同僚と同じ機会、同じ給与などが得られなくなる可能性があるからです。 私に連絡をくれた他の AI 研究者もいじめに遭っており、自分の状態を再び話したら職を失うことさえあると感じていました。

疎外されたグループの人々は、AI プロセスのすべてのステップに参加する必要があります。 障害者が含まれていない場合、アルゴリズムはコミュニティを考慮せずにトレーニングされます。 目の見える人が目を閉じても、目の見えない人が何をしなければならないのか理解できません。 私たちもこうした取り組みに参加する必要があります。親切であることは、障害のない研究者がこの分野をより包括的なものにすることができる方法の 1 つです。 障害のない人は、障害のある人を講演に招待したり、研究者や共同研究者を訪問したりすることができます。 彼らは公正かつ平等なレベルでコミュニティと交流する必要があります。

William Agnew は、シアトルにあるワシントン大学のコンピューター サイエンスの博士号取得候補者です。 Sabine Weber は、ドイツのエアフルトにある VDI/VDE Innovation + Technik の科学コンサルタントです。 彼らは、擁護団体 Queer in AI の主催者です。

アグニュー: 私は、2018 年に NeurIPS の最初の Queer in AI ワークショップの開催を手伝いました。基本的に、AI 分野ではダイバーシティとインクルージョンを真剣に受け止めていません。 あらゆる段階で、これらの分野での取り組みは資金不足であり、過小評価されています。 現場では嫌がらせ者を保護することがよくあります。

Queer in AI の研究に携わっている人のほとんどは、私を含めて大学院生です。 「なぜ上級教授ではないのですか? なぜ副学長ではないのですか?」と尋ねることもできます。 上級メンバーが不足しているため、私たちの運営と私たちが主張できるリソースが制限されています。

私たちが提唱していることはボトムアップで起こっています。 私たちは性別に依存しないトイレを求めています。 会議の登録バッジ、講演者の経歴、アンケートに代名詞を掲載する。 クィア AI 体験調査を実施し、人口統計、危害と排除の経験、クィア AI コミュニティのニーズを収集する機会。 そして私たちは抽出データポリシーに反対しています。 私たちは、クィアであることで疎外され、この分野で最も若いクィアの人々の集団として、そのような立場から主張しなければなりません。

私たちの調査では、クィアの人々は一貫して、AI分野でのキャリアパスを続けることを妨げる可能性のある最大の問題として、コミュニティ、サポート、仲間グループの欠如を挙げています。 私たちのプログラムの 1 つは、大学院への出願を支援する奨学金を提供し、出願料、大学院記録試験 (GRE) などの標準入学試験、大学の成績証明書をカバーするものです。 GRE を受けるために別の国に飛行機で行かなければならない人もいます。 特に家族からの経済的支援が得られにくく、抑圧的な法的環境を経験している同性愛者にとって、これは大きな障壁となる。 たとえば、米国の州議会は、会員に影響を与える反トランスジェンダーおよび反同性愛者法を可決しています。

AI における Queer に関する研究のおかげで、私はロボット工学者から倫理学者に転向しました。 クィアの人々のデータがどのように使用、収集、悪用されるかは大きな懸念事項です。 もう 1 つの懸念は、機械学習は基本的に物や人を分類し、過去に基づいて結果を予測することであるということです。 これらは、アイデンティティが流動的であり、重要かつ大きな方法で、そして生涯を通じて頻繁に変化するクィアネスの概念とは対極にあります。 私たちは反発し、同性愛を抑圧しない機械学習システムを想像しようとします。

「これらのモデルはクィアネスを表しているわけではありません。私たちはそれらを修正するだけです。」と言うかもしれません。 しかし、同性愛者は長い間、私たちを外出させたり、制御したり、抑圧したりすることを目的としたさまざまな形の監視の対象となってきました。同性愛者をよく理解するモデルは、彼らをより良く監視することもできます。 私たちはこうした害を固定化するテクノロジーの構築を避け、同性愛者のコミュニティに力を与えるテクノロジーに取り組むべきです。

ウェーバー: 以前はテクノロジー企業でエンジニアとして働いていました。 私は上司に、60人ほどの開発者チームの中でシスジェンダーではないのは私だけだと言いました。 彼はこう答えました。「あなたの仕事に応募したのに資格を持っているのはあなただけです。資格のある人を見つけるのはとても難しいのです。」

しかし、企業がそれほど厳しい目で見ているわけではないことは明らかだ。 彼らにとって、それは次のように感じます。「私たちは高いところに座っています。誰もが私たちのところに来て、自分自身を差し出します。」 その代わりに、企業はクィア団体やフェミニスト団体で人材を採用することができるだろう。 どの大学にも、企業が簡単に参加できる科学、技術、工学、数学 (STEM) の女性グループやコンピューティングの女性グループがいます。

しかし、「これまで私たちはそうしてきたのだから、波風を立ててはいけない」という考えが蔓延しています。 イライラします。 本当は、船を揺らしたいんです、船はバカだから。 こうした障壁にぶつかるのはとても残念なことです。

ローラ モントーヤは、彼女と同じように、型破りなルートで人工知能の分野に来た人々を励ましています。 クレジット: ティム・マッケン・ジュニア ([email protected])

カリフォルニア州サンフランシスコの Accel.AI Institute および LatinX in AI のエグゼクティブ ディレクター。

2016 年に、私は AI に関して過小評価されている、または十分なサービスを受けていない人々を支援する教育会社として Accel.AI Institute を設立しました。 現在は、社会に影響を与える取り組みのために AI を推進することを使命とする非営利団体です。 また、この分野におけるラテンアメリカ出身の人々のための専門団体である LatinX in AI プログラムを共同設立しました。 私の家族はコロンビアから移住したので、私は米国に来た一世です。

私のバックグラウンドは生物学と物理科学です。 私はソフトウェア エンジニアとしてキャリアをスタートしましたが、従来のソフトウェア エンジニアリングでは私にとってやりがいがありませんでした。 そんなときに機械学習、データサイエンス、AIの世界を知りました。 大学院に行かずにAIや機械学習について学ぶ最適な方法を調べました。 私は常に代替思考の持ち主でした。

私は、典型的な道を歩まず、女性であることを自認し、有色人種であることを自認し、これらのツールやテクノロジーを使用するための別の道を追求したいと考えている私のような人々にとって、代替的な教育オプションの必要性があることに気づきました。 。

その後、AI や機械学習に関する大規模なカンファレンスに出席したときに、私と同じような人たちに会いましたが、私たちは人口のほんの一部にすぎませんでした。 私は数人の友人たちと集まり、「どうすればこれを変えることができるか?」というブレインストーミングをしました。 こうして AI における LatinX が誕生しました。 2018 年以来、私たちは主要な会議で研究ワークショップを開始し、NeurIPS と連携して独自の論文募集を主催しました。

また、研究者がラテンアメリカから北米、ヨーロッパ、アジアに流出することに起因する頭脳流出に対処するために、3 か月のメンターシップ プログラムも用意しています。 私たちのコミュニティの上級メンバーや、LatinX ではない同盟者でもメンターとしての役割を果たすことができます。

ラテンアメリカの多くの地域では計算能力が著しく不足しているため、私たちは 2022 年にスーパーコンピューター プログラムを開始しました。 メキシコのモントレー工科大学グアダラハラ キャンパスにあるハイパフォーマンス コンピューティング リソースへの研究アクセスを提供するパイロット プログラムのために、カリフォルニア州サンタクララに本拠を置くテクノロジー企業 NVIDIA は、DGX A100 システム (本質的には大型サーバー) を寄贈しました。コンピューター。 メキシコのハリスコ州の政府イノベーション庁がこのシステムを主催する。 地元の研究者と学生は、AI や深層学習の研究のためにこのハードウェアへのアクセスを共有できます。 私たちは、このハードウェアの使用を希望するラテン系メンバーが少なくとも 50% 含まれるチームを対象に、研究所に登録したり、グアダラハラ地域に居住したりすることなく、提案を世界的に募集しました。

これまでのところ、最初のコホートに参加する8つのチームが選ばれており、ラテンアメリカ向けの自動運転アプリケーションや動物保護のためのモニタリングツールなどのプロジェクトに取り組んでいる。 各チームは、要求した期間、複雑なグラフィックスおよびビジュアルデータ処理タスクを並行して処理するように設計された 1 つのグラフィックス処理ユニット (GPU) にアクセスできます。 これは、研究者が協力して大きな問題を解決し、テクノロジーを良い目的で利用するための相互協力の機会となります。

土井: https://doi.org/10.1038/d41586-023-01689-4

これらのインタビューは、長さと明瞭さのために編集されています。

コレクション: 多様性と科学者のキャリア

人工知能が結果を理解する必要がある理由

アフリカの科学への貢献を紹介

AI を公平にするために、私たちが学ばなければならないことは次のとおりです

タンザニアの研究者らは国際雑誌への出版に2万2000ドルを提供した

ニュース 06 6月 23

愛する人が亡くなったとき: 学術界は遺族をどうサポートできるか

キャリア特集 05 6月 23

科学的ユートピア: 愚かな質問室での科学的啓蒙

キャリアコラム 05 JUN 23

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

量子機械学習に向けて

スポットライト 24 5 月 23 日

量子コンピューター: 何に役立つのですか?

スポットライト 24 5 月 23 日

ChatGPT: 責任ある使用のための標準報告ガイドライン

通信 06 6月 23

ChatGPT を使用したコーディングを改善するための 6 つのヒント

テクノロジー特集 05 6月 23

転移学習によりネットワーク生物学の予測が可能になる

第31条 5月23日

最先端の科学技術が影響力のある洞察の発見を推進する学際的な研究組織

上海浦東新区

ベイジーン研究所

南京林業大学は南京市の東部に位置する総合大学です。

南京、江蘇省（CN）

南京林業大学 (NFU)

新しい化学物質の評価のための多機能専門家チームのDMPK/PD代表

中国広東省広州

株式会社ベイジーン

NIEHS は、気候変動と健康研究のセンター長を務めるシニア調査員を募集しています。

リサーチ トライアングル パーク、ノースカロライナ州

国立環境保健研究所/NIH

ヒューマン テクノポール (HT) の人口および医療ゲノミクス プログラムのジュスタッキーニ グループに加わる研究技術者を募集しています。

ミラノ (IT)

ヒューマンテクノポール