OpenAI এবং Anthropic-এর জন্য সংকট ঠিকাদার চরমপন্থা মোকাবেলায় পদক্ষেপ নিচ্ছে

সিডনি, অস্ট্রেলিয়া – ChatGPT-তে যারা হিংসাত্মক চরমপন্থী প্রবণতা প্রদর্শন করে তাদের নিউজিল্যান্ডে উন্নয়নাধীন একটি নতুন টুলের মাধ্যমে মানব এবং চ্যাটবট-ভিত্তিক ডিরেডিকালাইজেশন সহায়তার দিকে পরিচালিত করা হবে, এর পেছনের লোকেরা জানিয়েছেন।

এই উদ্যোগটি হলো সর্বশেষ প্রচেষ্টা যা AI কোম্পানিগুলোকে হিংসা বন্ধ করতে ব্যর্থ হওয়া এবং এমনকি সক্ষম করার অভিযোগে ক্রমবর্ধমান মামলার মুখে নিরাপত্তা উদ্বেগ মোকাবেলার জন্য।

ফেব্রুয়ারিতে কানাডিয়ান সরকার OpenAI-কে হস্তক্ষেপের হুমকি দেয় যখন প্রকাশিত হয় যে একজন ব্যক্তি যিনি একটি প্রাণঘাতী স্কুল শুটিং ঘটিয়েছিলেন তাকে কর্তৃপক্ষকে অবহিত না করেই প্ল্যাটফর্ম থেকে নিষিদ্ধ করা হয়েছিল।

ThroughLine, একটি স্টার্টআপ যা সাম্প্রতিক বছরগুলোতে ChatGPT-এর মালিক OpenAI এবং প্রতিদ্বন্দ্বী Anthropic ও Google দ্বারা নিয়োগ করা হয়েছে, যখন ব্যবহারকারীদের আত্ম-ক্ষতি, গার্হস্থ্য সহিংসতা বা খাওয়ার ব্যাধির ঝুঁকিতে চিহ্নিত করা হয় তখন তাদের সংকট সহায়তার দিকে পুনঃনির্দেশিত করতে, এছাড়াও হিংসাত্মক চরমপন্থা প্রতিরোধ অন্তর্ভুক্ত করতে তার অফারগুলো প্রসারিত করার উপায় অন্বেষণ করছে, এর প্রতিষ্ঠাতা এবং প্রাক্তন যুব কর্মী Elliot Taylor জানিয়েছেন।

কোম্পানিটি The Christchurch Call-এর সাথে আলোচনায় রয়েছে, যা ২০১৯ সালে নিউজিল্যান্ডের সবচেয়ে খারাপ সন্ত্রাসী হামলার পর অনলাইন ঘৃণা নির্মূল করার একটি উদ্যোগ, যেখানে চরমপন্থা বিরোধী গ্রুপ নির্দেশনা প্রদান করবে যখন ThroughLine হস্তক্ষেপ চ্যাটবট তৈরি করবে, প্রাক্তন যুব কর্মী জানিয়েছেন।

"এটি এমন কিছু যা আমরা অগ্রসর হতে এবং কভার করার জন্য আরও ভালো কাজ করতে এবং তারপর প্ল্যাটফর্মগুলোকে আরও ভালোভাবে সমর্থন করতে চাই," Taylor একটি সাক্ষাৎকারে বলেছেন, এবং যোগ করেছেন যে কোনো সময়সীমা নির্ধারণ করা হয়নি।

OpenAI ThroughLine-এর সাথে সম্পর্ক নিশ্চিত করেছে কিন্তু আরও মন্তব্য করতে অস্বীকার করেছে। Anthropic এবং Google মন্তব্যের অনুরোধে অবিলম্বে সাড়া দেয়নি।

Taylor-এর ফার্ম, যা তিনি গ্রামীণ নিউজিল্যান্ডে তার বাড়ি থেকে পরিচালনা করেন, ১৮০টি দেশে ১,৬০০টি হেল্পলাইনের ক্রমাগত-পরীক্ষিত নেটওয়ার্কের অফার দিয়ে AI ফার্মগুলোর জন্য একটি গন্তব্যস্থল হয়ে উঠেছে।

একবার AI একটি সম্ভাব্য মানসিক স্বাস্থ্য সংকটের লক্ষণ সনাক্ত করলে, এটি ব্যবহারকারীকে ThroughLine-এ পাঠায়, যা তাদের কাছাকাছি উপলব্ধ মানব-পরিচালিত সেবার সাথে মিলিয়ে দেয়।

কিন্তু ThroughLine-এর পরিধি নির্দিষ্ট বিভাগে সীমাবদ্ধ ছিল, প্রতিষ্ঠাতা বলেছেন। মানসিক স্বাস্থ্য সংগ্রামের বিস্তৃতি যা লোকেরা অনলাইনে প্রকাশ করে AI চ্যাটবটের জনপ্রিয়তার সাথে বিস্ফোরিত হয়েছে, এবং এখন চরমপন্থার সাথে সম্পর্ক অন্তর্ভুক্ত, তিনি যোগ করেছেন।

আরও চ্যাটবট, আরও সমস্যা

চরমপন্থা বিরোধী টুলটি সম্ভবত একটি হাইব্রিড মডেল হবে যা একটি চ্যাটবটকে একত্রিত করে যা চরমপন্থার লক্ষণ প্রদর্শনকারী ব্যক্তিদের সাড়া দিতে প্রশিক্ষিত এবং বাস্তব-বিশ্বের মানসিক স্বাস্থ্য সেবার রেফারেল, Taylor বলেছেন।

"আমরা একটি বেস LLM-এর প্রশিক্ষণ ডেটা ব্যবহার করছি না," তিনি বলেছেন, যা জেনেরিক ডেটাসেট বোঝায় যা বৃহৎ ভাষা মডেল প্ল্যাটফর্মগুলো সুসংগত পাঠ্য গঠনে ব্যবহার করে। "আমরা সঠিক বিশেষজ্ঞদের সাথে কাজ করছি।" প্রযুক্তিটি বর্তমানে পরীক্ষা করা হচ্ছে, কিন্তু প্রকাশের জন্য কোনো তারিখ নির্ধারণ করা হয়নি।

Galen Lamphere-Englund, The Christchurch Call-এর প্রতিনিধিত্বকারী একজন সন্ত্রাসবিরোধী উপদেষ্টা, বলেছেন তিনি গেমিং ফোরামের মডারেটরদের জন্য এবং পিতামাতা ও যত্নশীলদের জন্য যারা অনলাইনে চরমপন্থা দূর করতে চান তাদের জন্য পণ্যটি রোল আউট করার আশা করেন।

একটি চ্যাটবট পুনঃনির্দেশনা টুল "একটি ভালো এবং প্রয়োজনীয় ধারণা কারণ এটি স্বীকার করে যে কেবল কন্টেন্ট সমস্যা নয়, বরং সম্পর্কের গতিশীলতা," বলেছেন Henry Fraser, Queensland University of Technology-এর একজন AI গবেষক।

পণ্যের সাফল্য নির্ভর করতে পারে "ফলো-আপ মেকানিজমগুলো কতটা ভালো এবং যে কাঠামো এবং সম্পর্কগুলোতে তারা লোকেদের পরিচালিত করে সমস্যা সমাধানে সেগুলো কতটা ভালো," তিনি বলেছেন।

Taylor বলেছেন ফলো-আপ বৈশিষ্ট্যগুলো, যার মধ্যে বিপজ্জনক ব্যবহারকারীদের সম্পর্কে কর্তৃপক্ষকে সম্ভাব্য সতর্কতা অন্তর্ভুক্ত, এখনও নির্ধারণ করা বাকি তবে বৃদ্ধিপ্রাপ্ত আচরণ ট্রিগার করার যে কোনো ঝুঁকি বিবেচনায় নেওয়া হবে।

তিনি বলেছেন যে সংকটে থাকা লোকেরা অনলাইনে এমন জিনিস শেয়ার করার প্রবণতা রাখে যা তারা কোনো ব্যক্তিকে বলতে খুব বিব্রত ছিল, এবং সরকারগুলো বিপদ বাড়াতে ঝুঁকি নিতে পারে যদি তারা প্ল্যাটফর্মগুলোতে চাপ দেয় যাতে সংবেদনশীল কথোপকথনে জড়িত ব্যবহারকারীদের কেটে ফেলা হয়।

আইন প্রয়োগকারীদের চাপের অধীনে প্ল্যাটফর্মগুলোর দ্বারা জঙ্গিবাদের সাথে যুক্ত বর্ধিত মডারেশন সহানুভূতিশীলদের Telegram-এর মতো কম নিয়ন্ত্রিত বিকল্পগুলোতে স্থানান্তরিত হতে দেখেছে, New York University-এর Stern Center for Business and Human Rights-এর একটি ২০২৫ সমীক্ষা অনুসারে।

"যদি আপনি একটি AI-এর সাথে কথা বলেন এবং সংকট প্রকাশ করেন এবং এটি কথোপকথন বন্ধ করে দেয়, তবে কেউ জানে না যে এটি ঘটেছে, এবং সেই ব্যক্তি এখনও সহায়তা ছাড়া থাকতে পারে," Taylor বলেছেন। – Rappler.com