聯合國兒童基金會馬來西亞分部警告，人工智能使誘騙兒童變得更容易

吉隆坡：聯合國兒童基金會馬來西亞發出警告，AI聊天機器人及陪伴應用程式可能透過使性話題正常化、鼓勵年輕用戶放鬆警惕，讓不法分子更容易對兒童實施誘騙。

其兒童保護專家Selvi Supramaniam表示，AI系統可能營造出虛假的親密感，誘導兒童透露個人資訊，並使兒童暴露於與誘騙行為效果相似的互動之中。

「雖然AI無法取代誘騙者，但它可以讓誘騙變得更加、更加容易，」她今日在此間舉行的負責任科技會議小組討論上表示。

Selvi表示，不法分子可利用AI聊天機器人操縱兒童，而反覆接觸AI陪伴應用程式中的性化對話，可能導致兒童無法辨識真實犯罪者的不當行為。

她表示，若孩子透露有過此類互動，家長應保持冷靜，因為驚慌或帶有評判性的反應可能令孩子不願尋求協助。

她呼籲家長主動提問，了解孩子為何被AI陪伴應用程式所吸引，並在向相關平台、主管機關或執法機構舉報前，妥善保存不當內容或互動的證據。

通訊與多媒體內容論壇首席執行官Mediha Mahmood表示，隨著兒童與面向大眾設計的AI系統互動日益頻繁，需要更強有力的保障措施。

Mediha表示，安全設計應成為AI聊天機器人供應商的基本要求，而非可選的產品功能。

她表示，對AI聊天機器人的憂慮不僅限於不當內容，還延伸至兒童可能與其建立的關係。

「當出現涉及誘騙、性剝削、網路霸凌、虐待或飲食失調的警示訊號時，聊天機器人應停止進一步互動，並引導用戶聯繫可信任的成年人、求助熱線或支援服務，」她說。

Mediha亦呼籲在AI聊天機器人產品推出前進行兒童權利影響評估，表示開發者應評估兒童可能如何使用這些系統及受其影響，即使這些系統並非專為兒童設計。

阿里巴巴研究院院長傅宏宇表示，許多AI陪伴產品的設計旨在最大化用戶參與度並延長對話時間，因為其商業模式有賴於用戶留存率。

傅宏宇表示，AI系統的設計應鼓勵情緒困擾的用戶向朋友、家人、輔導員及其他現實網絡尋求支持，而非取代人際互動。