Meredith Whittakerは、テック業界の「フラットハウス」勢力に立ち向かっています。私はパリのVivaTechでSignalの社長と座談し、ディスインフォメーション、AIの管理者、侵略的な監視状態など、社会が直面している重要な問題について幅広く話し合いました。会話の中で、Signalが最近エロン・マスク、Telegramのパベル・ドゥロフとの言語戦争にどっぷり浸かり、またOpenAIのリーダーシップに対するWhittakerの率直な考えについても話し合いました。彼女はOpenAIのリーダーシップを「寮の高校生の悪ふざけ」と例えました。
Whittakerは、特に世界が多数の一般選挙に直面しているこの年に、主要な5つのソーシャルメディアプラットフォームでの権力集中に懸念を抱いています。特にU.S.とヨーロッパが外部のU.S.ベースのテックジャイアントに依存している現在、EUの規制を緩和してもヨーロッパがU.S.テックジャイアントと競争したり、社会に良い影響を与えることはできないと述べました。彼女は、メディアがAIによるディープフェイクに執着している一方で、ソーシャルメディアプラットフォームが事実よりも誇大な関与を優先していることがよくあり、この点を批判しました。
さらに、監視広告、英国のオンライン安全法案の意義、EU-CSAM提案（「完全に危険」）、そしてTelegramのパベル・ドゥロフが自身のプラットフォームを安全にすることに時間を費やすべきか、インスタグラムアカウントのフォロワーに写真家を引き連れている時間をもっと増やすべきか（「彼はクソ」）についても議論しました。
そして最後に、彼女はなぜ次の6ヶ月間をヨーロッパで過ごすことになったのかを明らかにしました（私の質問は斜体で表示されています）：
最近、AIの権力集中について話しており、これがヨーロッパの文脈で重要であると述べました。それについて詳しく説明していただけますか？
非常に短い回答は、それがヨーロッパの文脈で重要だからです、なぜならその権力はヨーロッパに集中していないから。はい、その権力は米国にある数社の企業の手に集中しており、さらにいくつかは中国にもあります。しかし、この文脈において話しているのは米国です。ヨーロッパ、ヨーロッパのスタートアップ、ヨーロッパの政府、ヨーロッパの機関がAIに依存していることは、基本的にこれら数社の企業に作成され、コントロールされ、利益及び成長に還元されるインフラストラクチャに依存しているという意味です。
今、私たちが話している文脈は2024年5月です。選挙まであと何ヶ月かは覚えていないので、考えたくありません。しかし、トランプ政権の実現と、もっと権威主義的なスタイルの米国政府が現実化するかもしれないことを真剣に考慮しなければいけない。そして（共和党の）一部は長年にわたってテックや特にソーシャルメディアのコントロールに目をつけてきました。これらの要因は、何がAIなのか？AIは誰に奉仕するのか？なぜ、再びヨーロッパはAI業界の権力集中に関心を抱くべきなのか？という分析において全てを一緒に取り上げられるべきです。
ヨーロッパでは、アクセラレーショニズムやテクノロジーのアクセラレーションに関する議論があります。一部のヨーロッパの起業家はヨーロッパの規制に失望しています。EUの規制が技術革新のペースを遅らせる可能性について、その懸念が正当化されていると思いますか？
すみません、私はアカデミーの出身です。定義には厳格な人間です。それを少し分解して考えさせてください。ここにおける前提は、そうした制約がない場合、ヨーロッパはUSテックジャイアントに匹敵する競合他社を作る自由があるというものですか？もしそれが前提であれば、それは事実ではありません。それが事実であると理解する人は誰でも、これらの企業の歴史、ビジネスモデル、そしてこれらの会社の浸透を知っているはずです。
規制が「あなたのBシリーズを遅らせる」という点で失望することがあるかもしれません。しかし、私は、技術の進化とは、現在極めて重要な決定を下すために任された技術の荒廃を治めるすべてのガードレールを投げ捨てることに頼る進歩の定義を見直すべきだと考えています。現在、社会的コントロールの新しい形を促進する監視インフラストラクチャに結合された大量監視インフラストラクチャ、労働力を劣化させ、弱体化させるために使用されています。それが我々の求めるものですか？それが進歩ですか？私たちが用語を定義しない限り、私は、我々はこれらのおとぎ話に引っかかる可能性があると思います。
確かに、何人かの人々は、彼らが多くのお金を手にした後、しっかりと中間層にいるかもしれません。しかし、それを住みやすい未来に向けた進歩と混同しないでください。社会にとって有益な統治構造への進歩、人間のニーズを実際に満たし、市民に責任を負う技術への進歩。
あなたは、ゼレンスキーと彼の妻に関するAI生成コンテンツに関するディスインフォメーションの例を挙げました。例えばディープフェイクのビデオやAI生成ウェブサイトなど。
ディープフェイクに焦点を当てることは、実際には森を木で見逃していることです。ここで「森」とは、5つの大規模なソーシャルメディアプラットフォームがアービターとなっていることです。[TikTok、Facebook、Instagram、Twitter/X、YouTube]
これらの巨大で均質なソーシャルメディアプラットフォームは、より良いクリック数、より多くの広告ビューを得たいという動機付けがあり、自分たちのアルゴリズムをエンゲージメントに合わせようとします。彼らはより多くのクリック、より多くの広告視聴を望んでいるため、くだらないコンテンツ、バンバスティックなコンテンツ、誇張されたコンテンツ、完全に虚偽のコンテンツを優先する動機付けがあります。これこそが、私の視点では、AIがディスインフォメーションによる使用を非常に強力な方法で行っているところです。そこにディープフェイクが見つかります。誰ももはやウェブサイトに行きません。Twitter、YouTubeに行き、検索して、そこで何があるかを見ます。
見出しを見て、それをクリックし、そのウェブサイトからの投稿をクリックします。私たちは情報操作について話し合わないと、ディスインフォメーションについても話し合うことができないと思います。巨大で均質なプラットフォームが、情報収支の名目で私たちのメディアエコシステムや情報エコシステムを喰い物にして、たった数社の企業の利益と成長のためにそれを利用している状況について、話さないといけないと思います。
英国にはAdvertising Standards Authorityがあります。ドイツでは、eBayなどでナチの記念品を広告することはできません。広告業界を規制し、それによって広告をビジネスモデルとしているプラットフォームからより良いルールとより良い結果を生み出す方法はあるでしょうか？
監視広告を禁止することが非常に良い第一歩になると考えます。私たちが取り組んでいる技術業界からの病理を根ざすことになります。それは影響を行使するための大量監視であり、何かを売るための影響、誰かに何かを投票させるための影響、誰かを誤解させるための影響を目的としています。最終的に、それがゲームです。
その大量監視の訓練データは、OpenAIが「Sky」というAIの声を使用した話によって鮮明に浮かび上がりました。このAIの声は、非常にスカーレット・ヨハンソンに似て聞こえました。後に、彼女はサム・アルトマンから彼女の声を使用することについて連絡を受けたことを明らかにしました。この問題についてどのような見解をお持ちですか？
私はこれをツイッターで投稿しましたが、それは「エッジロード」のクソみたいなことです。それは非常に失礼です。それは非常に不必要です。そして、実際には、科学の頂点で真剣な人々が次の神聖な存在を構築しているという神話を剥がされてしまう。その場所で非常に明らかなことは、文化が高校寮の悪ふざけであり、何もかもがおごる「YESメン」によって鼓舞されていることです。彼らはあなたが言うジョークをすべて面白いと思い込んでいるからです。彼らはそのために給料をもらっているからですし、誰もそのリーダーシップを肩でかきしめて、「なにをしているんだ！？」と言っている人はいません。
昨年、TechCrunch Disruptでのあなたによるイギリスのオンライン安全法案（現在は法案ではなくなりました）に関する議論がありました。この法案が通過した後、現在のあなたの立場はどうですか？
私たちは絶対にやりません。我々は決してやらないでしょう。我々が言ったのは、もしその法案のその部分を強制するような事態になったら、OfcomがSignalに「バックドアを作成しなければならない、クライアントサイドのスキャンを実装しなければならない」（これはバックドアである）と伝えることができるとすると、私たちは（UK）から離れます。なぜなら、私たちはそれをやるつもりはないからです。Signalに依存している人々を売り渡すことは決してしないでしょう、特にデジタルセキュリティが生死にかかわる状況でそれに非常に多くの人々が依存している場合です。
進行形はOfcomがまだ圧力をかけていないですか？
いいえ、Ofcomのリーダーシップとの私の経験では、かなり理にかなっています。彼らはこれらの問題を理解しています。しかし、彼らはこの法案を手渡されて、そこで何をすべきかについて苦労していると思います。
最近の発展として、彼らはオンライン安全の
