EU、ハイテク大手のアルゴリズムの透明性を高めるセンターを設立

この任務は、スペインのセビリアに新設された欧州アルゴリズム透明性センター (ECAT) に課せられています。

人種差別的、性差別的、その他のヘイトスピーチや暴力の呼びかけは、長い間、ネット上で深刻な問題となっている。

ソーシャル メディアは長い間、ユーザーに単なる娯楽以上のものを提供してきました。また、情報戦争、フェイクニュースの流布、さらには過激派グループの動員に悪用されることも頻繁にある。若者が主に利用するTikTokなどのプラットフォームでは、摂食障害や自傷行為を助長するコンテンツが登場している。

「これらのプラットフォームは、ユーザー生成コンテンツをホストする場所であるだけでなく、コンテンツの配布方法を決定するアルゴリズムシステムも備えている」と、オンラインヘイトスピーチ擁護団体ヘイトエイドのディレクター、ジョセフィン・バロン氏は述べた。

これらのシステムは、ユーザーが閲覧できるコンテンツと閲覧できないコンテンツを判断するためにデータを収集します。ユーザーが「いいね！」やコメントした投稿を分析して、次に表示するコンテンツを決定します。 「これらのアルゴリズムは公開されていないため、実際にどのように機能するかはほとんどわかりません」とジョセフィン・バロン氏は語った。

EUは現在この問題に対処しようとしている。 2022年11月にデジタルサービス法（DSA）が施行されます。この法律はオンラインサービスを規制し、特に4,500万人以上のユーザーを抱えるプラットフォームを対象に、EUにおけるインターネットのルールを明確にすることを目的としています。この法律では、サービスプロバイダーに対して、アルゴリズムシステムを含むサービスにおける体系的なリスクを調査、分析、評価することも義務付けています。

さらに、DSA は、研究者が大手テクノロジー企業のデータにさらにアクセスするための条件も作り出します。今後、テクノロジー大手は毎年欧州委員会（EC）に出席し、有害コンテンツのリスク評価を報告し、対処策を提案することが義務付けられる。

ECATは4月18日に正式に発足しました。人工知能（AI）の専門家、データ科学者、社会科学者を含む約30人のスタッフが、DSAの実施についてECに助言する。彼らは他の専門家とも連絡を取り合っています。 ECAT と DSA は、大手テクノロジー企業がユーザーにコンテンツを推奨するために使用するアルゴリズムの透明性を高めることを目的としています。

欧州委員会のマルグレーテ・フェルサーガー副委員長によると、ECATは主要なオンラインプラットフォームと主要なオンライン検索エンジンを調査し、「多くの欧州人が遭遇した有害で違法なコンテンツの拡散にそれらのアルゴリズムがどのように寄与しているか」を調べるという。

「DSAが革命的だとは思わないが、正しい方向への重要な一歩であることは確かだ」と非営利研究組織AlgorithmWatchのアンジェラ・ミュラー氏はDWに語った。