TechCrunchは、AI革命に貢献した注目すべき女性に焦点を当てたインタビューシリーズを掲載しています。AI分野における優れた女性研究者や他者が輝かしい功績を讃えるため、AI分野における女性に活躍の場を与えることが目的です。このシリーズはAIブームが続く中、AI分野でしばしば見過ごされる重要な業績をハイライトしています。こちらで他のプロフィールを読むことができます。
今日の注目は、クエベック州に拠点を置くAIと機械学習に特化した1,200人以上の研究者からなるコミュニティであるMilaのシニア応用AIプロジェクトマネージャーであるAllison Cohenです。彼女は研究者、社会科学者、外部のパートナーと協力して、社会に有益なAIプロジェクトを展開しています。Cohenの業績ポートフォリオには、女性嫌悪を検出するツール、人身売買被害者のオンライン活動を特定するアプリ、およびルワンダで持続可能な農業の実践を推奨するアプリなどが含まれています。
かつて、CohenはGlobal Partnership on Artificial IntelligenceでAI薬物発見の共同リードを務め、AIの責任ある開発と利用を指導する機関でした。また、DeloitteのAI戦略コンサルタントや、カナダの独立系シンクタンクであるCenter for International Digital Policyのプロジェクトコンサルタントも務めています。
質疑応答
簡単に、AI分野でのスタートはどのようにしてきたのですか？分野に魅力を感じたのは何ですか？
すべてのものを数学的にモデル化できるということ、顔の認識から交渉を行うことまで、そのような現象をアルゴリズムでキャプチャーすべきでないと見極めたことが、私が世界を見る方法を変え、AIを魅力的に感じさせた理由です。皮肉なことに、今ではAI分野で働いているが、これらの種類の現象をアルゴリズムでキャプチャーできない場合も多く、場合によっては行うべきではないと知っているということがあります。
私はトロント大学で国際関係の修士号を取得中にこの分野に触れる機会を得ました。そのプログラムは、マクロ経済から国際法まで、世界秩序に影響を与えるシステムを航海することを学ぶよう設計されていました。しかし、AIについて学ぶにつれて、政治にとってどれほど重要になるかを認識し、このトピックについて自ら教育することが重要であると認識しました。
分野に飛び込むことができたのは、エッセイ執筆コンペティションのおかげでした。そのコンペティションのために、AIの労働市場において競争力を維持するためにサイケデリックドラッグがどのように役立つかを説明する論文を書き、それが2018年のセントガレン・シンポジウムに出席する資格を得ました（クリエイティブな執筆作品でした）。その招待とその後の参加が私に自信を与え、その分野への興味を追求し続ける助けになりました。
AI分野で最も誇りに思う仕事は何ですか？
私がマネージしたプロジェクトの1つは、女性に対するバイアスの微妙で明白な表現を含むデータセットを構築することでした。
このプロジェクトでは、自然言語処理専門家、言語学者、ジェンダースタディ専門家からなる多様なチームのスタッフィングやマネジメントは、プロジェクト全体のライフサイクルにおいて重要でした。これは私が非常に誇りに思っていることです。このプロセスが責任あるアプリケーションを構築する上でなぜ基本的なものであり、なぜそれが十分に行われていないのかを直接学びました。異なる学問領域を横断するための効果的なコミュニケーションを各利害関係者が支援することができれば、社会科学の長年の伝統とコンピュータサイエンスの最新の発展を融合させる作業を促進することができます。
また、このプロジェクトがコミュニティから好意的に受け入れられたことも誇りに思っています。私たちの論文の1つは、AI分野の主要な会議NeurIPSの社会的責任ある言語モデリングワークショップで注目されました。また、この作業は、スウェーデンAIが管理する同様の異学問プロセスをインスピレーションとなり、その作業をスウェーデンの女性差別の考え方と表現に合わせて適応させました。
男性主導のテック業界やAI業界の抱える課題をどのように克服していますか？
現代の最先端の産業であるにもかかわらず、問題のあるジェンダーダイナミクスが依然として見られていることは遺憾です。これは女性だけに害を及ぼすだけでなく、私たち全員が損失を被っています。私は、Sasha Costanza-Chockの『Design Justice』という本で学んだ「フェミニストの見地理論」という概念に非常に感銘を受けました。
この理論は、知識や体験が他者と同じ特権を享受していないマージナライズされたコミュニティが、公正で包括的な変化をもたらす可能性を持っていると主張しています。もちろん、すべてのマージナライズされたコミュニティが同じでも、それらのコミュニティ内の個々の経験も同じではありません。
とはいえ、これらのグループからのさまざまな視点が、私たちが可能な限り多くの構造的な課題や不平等に立ち向かい、打破する手助けとなります。これが、女性を含めないことが、AI分野を広範な人々にとって排他的なものにし、分野外の権力関係を補強する可能性がある理由です。
男性主導の業界をどう対処してきたかについては、味方が非常に重要であると考えています。これらの味方は強固で信頼できる関係の産物です。たとえば、私はPeter Kurzwellyといった友人が、ポッドキャスト業界での専門知識を共有してくれ、私が「The World We’re Building」という女性中心のポッドキャストを作成する際にサポートしてくれました。このポッドキャストは、AI分野におけるさらに多くの女性や非バイナリーの人々の業績を高めることができます。
AI分野に参入しようとする女性にどんなアドバイスをお授けしますか？
開かれた扉を見つけてください。それが有給である必要はなく、キャリアに合致している必要もなく、背景や経験と一致している必要もありません。開かれたチャンスを見つけると、その場で自分の声を磨き、そこから経験を積むことができます。ボランティア活動をしている場合は、全力を尽くすことで目立ち、できるだけ早くその仕事に報酬を得ることができるでしょう。
もちろん、ボランティア活動ができることには特権があることも認めたいと思います。
私はパンデミック中に仕事を失い、カナダで失業率が過去最高に達し、ほとんどの企業がAI人材を採用する意向はなく、採用を検討していても、AI倫理組織でボランティア活動を始めました。
ボランティア活動をしている間に取り組んだプロジェクトの1つは、AIが制作したアート作品に著作権保護が必要かどうかについてでした。私はカナダのAI法律事務所の弁護士に連絡を取り、その分野をよりよく理解するためにつないでもらいました。彼女がCIFARの誰かと連絡を取り、MilaのAI for HumanityチームのエグゼクティブディレクターであるBenjamin Prud’hommeと繋がったことは素晴らしいことで、AIアートに関する一連の議論を通じて、人生を変えるキャリアの機会について学ぶことができました。
AIが進化する際に直面している最も重要な問題は何ですか？
この質問に対する私の答えは3つあり、何らかの形で関連しています。私たちは次の点を解決する必要があると考えています：
- AIはスケールされるように構築されているが、構築されるツールが現地の知識、経験、ニーズに適応するようにする方法。
- 現地のコンテキストに合わせたツールを構築する場合、人類学者や社会学者をAI設計プロセスに組み込む必要があります。ただし、意味のある学際的な協力を妨げる様々なインセンティブ構造やその他の障害があります。これをどのように克服しますか？
- 重要なのは、ただ単に多学問的な専門知識を組み込むだけでなく、どのようにして設計プロセスをより深く影響させるか。具体的には、どのようにして、最も緊急に必要としている人々のために設計されたツールを設計し、そのデータやビジネスが最も利益を得ている人々ではないかという点に焦点を当てることができるか。
AIユーザーが意識すべき問題は何ですか？
私があまりカバーされていないと思う問題の1つは労働の搾取です。多くのAIモデルは、教師あり学習方法を使用してラベル付けされたデータから学習しています。モデルがラベル付けされたデータに依存する場合、ラベリングを行う人々が必要です（つまり、誰かが画像に「猫」というラベルを追加します）。これらの人々（注釈者）はしばしば搾取的な実践の対象となっています。訓練プロセス中にデータがラベル付けされる必要がないモデルにおいても（いくつかの生成的AIや他の基盤モデルの場合）、データセットは、しばしばデータ作成者に同意を求めず、報酬やクレジットを提供しない点で搾取的に構築されることがあります。
私は、このTechCrunchシリーズで特集されていて、注釈者の労働権利を提唱しているKrystal Kauffmanの活動をチェックすることをお勧めします。彼女は、生計を立てるための最低限の報酬、'mass rejection' 慣行の終了、侵入的な監視に対応して、基本的な人権に関する実践を促進しています。
AI
