AIが児童グルーミングを容易にする、ユニセフマレーシアが警告

クアラルンプール：ユニセフ・マレーシアは、AIチャットボットやコンパニオンアプリが性的な会話を日常化させ、若いユーザーの警戒心を低下させることで、捕食者が子どもをグルーミングしやすくする恐れがあると警告した。

同団体の児童保護専門家セルヴィ・スプラマニアムは、AIシステムが偽りの親密感を生み出し、個人情報の開示を促し、グルーミングの影響に類似したやり取りに子どもたちをさらす可能性があると述べた。

「AIはグルーマーの代わりにはならないが、グルーミングをはるかに容易にする可能性がある」と彼女は本日ここで開催されたResponsible Technology Conferenceのパネルディスカッションで語った。

セルヴィは、捕食者がAIチャットボットを使って子どもを操作する可能性がある一方、AIコンパニオンとの性的な会話に繰り返しさらされることで、子どもたちが実際の加害者による不適切な行動を認識する準備が整わない状態になり得ると述べた。

彼女は、子どもがそのようなやり取りを打ち明けた場合、親は冷静を保つべきであり、パニックや批判的な反応は子どもが助けを求めることを思いとどまらせる可能性があると述べた。

その代わりに、彼女は親に対し、質問をし、子どもがなぜAIコンパニオンに引きつけられたかを理解し、不適切なコンテンツややり取りが発生していた場合は、関連プラットフォーム、当局または法執行機関に報告する前に証拠を保全するよう呼びかけた。

コミュニケーション・マルチメディアコンテンツフォーラムのCEOであるメディハ・マフムードは、子どもたちが一般ユーザー向けに設計されたAIシステムとやり取りする機会が増える中、より強固な安全対策が必要だと述べた。

メディハは、セーフティ・バイ・デザインはAIチャットボットプロバイダーにとって任意の製品機能ではなく、基本的な要件であるべきだと述べた。

彼女は、AIチャットボットに関する懸念は不適切なコンテンツにとどまらず、子どもたちがそれらと築く関係にまで及ぶと述べた。

「グルーミング、性的搾取、サイバーいじめ、虐待、摂食障害に関わる危険な兆候がある場合、チャットボットはそれ以上関与しようとするのをやめ、ユーザーを信頼できる大人、ヘルプライン、またはサポートサービスに誘導すべきだ」と彼女は述べた。

メディハはまた、AIチャットボット製品がリリースされる前に児童の権利への影響評価を実施するよう求め、開発者は、そのシステムが子ども向けに特別に設計されていない場合でも、子どもたちがどのように使用し影響を受ける可能性があるかを評価すべきだと述べた。

アリババ研究院のディレクター、フー・ホンユは、多くのAIコンパニオン製品はビジネスモデルがユーザーの定着率に依存しているため、エンゲージメントを最大化し会話を長引かせるように設計されていると述べた。

フーは、AIシステムは人間のやり取りに取って代わるのではなく、感情的な苦痛を経験しているユーザーに対し、友人、家族、カウンセラー、その他のリアルなネットワークからサポートを求めるよう促す設計にすべきだと述べた。