ニューヨーク / RankWire.AI / –国連は、デジタルプラットフォームが子どもや若者の情報入手方法を大きく変える中で、彼らに対するより強力な保護を求めている。国連の新たな政策概要では、偽情報、ヘイトスピーチ、嫌がらせ、人工知能、そして注目を集めることを目的としたオンラインシステムによるリスクが強調されている。また、個人データ、行動ターゲティング広告、アルゴリズムによる配信に関する懸念も指摘している。報告書は、若いユーザーにはより強力な保護措置が必要であると同時に、オンラインでの教育、コミュニケーション、公共活動へのアクセスも維持する必要があると述べている。
国際コミュニケーション学部は、 8月12日の国際青少年デーに先立ち、この概要報告書を発表した。報告書によると、世界中で15歳から24歳までの82%以上がインターネットを利用している。デジタルアクセスは、学習、市民活動、経済活動への参加機会を拡大する可能性がある。同時に、若いユーザーは、情報を判断する能力をまだ発達させている段階で、有害なコンテンツに遭遇する可能性がある。概要報告書は、オンライン上のリスクが認知、感情、社会性の発達に影響を与える可能性があると指摘している。
報告書は、これらのリスクを3つの主要な分野に分類している。技術関連の脅威には、人工知能やその他のデジタルツールの悪用が含まれる。配信リスクには、アルゴリズムや信頼できる情報へのアクセス格差が含まれる。コンテンツリスクには、偽情報、嫌がらせ、ヘイトスピーチが含まれる。国連は、デジタルシステムがユーザーの閲覧内容やコンテンツの拡散範囲に影響を与えるため、これらの問題は相互に影響し合う可能性があると述べている。特に若い世代は、プラットフォームが自動レコメンデーション、データ収集、パーソナライズされたコンテンツを組み合わせることで、複数のリスクに同時に直面する可能性がある。
プラットフォームのデザインはより注目を集める
この報告書は、ユーザーの注目、個人データ、ターゲット広告に依存するビジネスモデルについても検証している。エンゲージメント重視のシステムは、子どもたちを過激なコンテンツや繰り返し利用を促す機能に晒す可能性があると指摘している。パーソナライズされたマーケティングは、若い世代にとって新たなリスク要因となる可能性がある。報告書は、テクノロジー企業やAI開発者に対し、製品設計に子どもの権利と安全を組み込むよう求めている。また、若者がオンラインで目にするコンテンツを左右するシステムについて、より一層の責任追及を求めている。
年齢制限は、ソーシャルメディアと子どもの安全に関する幅広い議論の一部となっている。国連は、年齢制限だけではオンライン情報のリスクすべてに対処できないと述べている。デジタル空間は、教育、社会的つながり、そして精神的な支えを提供する場にもなり得る。若者たちは、コンテンツの作成、キャンペーンの企画、そして公共の議論への参加にデジタル空間を利用している。報告書は、安全対策は、学習、コミュニケーション、そして参加を支援するデジタルサービスへの有益なアクセスを奪うことなく、子どもたちを保護するべきだと述べている。
AIの安全性が児童保護活動の一環となる
人工知能は、オンライン環境に新たな懸念をもたらしている。アントニオ・グテーレス国連事務総長は、子どもがアクセスできるシステムを対象とした「AI 子ども安全誓約」を提唱した。この提案されたアプローチには、子どもに特化した安全性テストと、導入前のより厳格な監視が含まれる。また、子どもが関わるAI生成の性的画像に対する断固たる措置も求めている。国連のより広範な取り組みでは、開発者に対し、そのようなコンテンツを特定、報告、削除するとともに、アクセス可能なAIシステムに子どもの安全保護機能を組み込むよう求めている。
報告書は、政府、テクノロジー企業、広告主、研究者、教育者、市民社会のすべてがデジタル上の害を軽減する役割を担っていると述べている。また、子どもや若者がオンライン空間を形成する意思決定に参加することを求めている。この報告書は、国連の情報完全性に関するグローバル原則を、若いユーザーに影響を与える問題に適用している。その中心的なメッセージは、オンラインプラットフォームやAIシステムが日常生活においてますます重要になるにつれて、子どもの安全、情報の完全性、デジタル参加は共に前進していくべきだということである。
国連が子どもたちのオンライン情報リスクの高まりについて警告を発したという記事は、UAE Gazette（UAEの日々の変化を記録する新聞）に最初に掲載されました。