যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ায় ১৬ বছর বয়সী এক কিশোরের আত্মহত্যার পর তরুণদের মানসিক স্বাস্থ্যের উপর চ্যাটবটের প্রভাব নিয়ে ক্রমবর্ধমান উদ্বেগের মধ্যে ওপেন এআই কোম্পানি চ্যাটজিপিটি’র জন্য অভিভাবকীয় নিয়ন্ত্রণ চালু করার পরিকল্পনা ঘোষণা করেছে।
মঙ্গলবার (২ সেপ্টেম্বর) একটি ব্লগ পোস্টে, ক্যালিফোর্নিয়া-ভিত্তিক এআই কোম্পানি বলেছে, “একজন কিশোরের বিকাশের সাথে মানসিক স্বাস্থ্যে নিয়ন্ত্রণের নির্দেশিকা প্রদানের উদ্দেশ্যে পরিবারগুলোকে সহায়তা করার জন্য তারা এই নিয়মগুলো চালু করছে।”
এই পরিকল্পনার অধীনে, অভিভাবকরা তাদের চ্যাটজিপিটি অ্যাকাউন্টগুলো তাদের সন্তানদের অ্যাকাউন্টগুলোর সাথে লিঙ্ক করতে পারবেন। তাছাড়া বয়স এবং আচরণ অনুযায়ী চ্যাটবট প্রশ্নের উত্তর কীভাবে দেয় তা নিয়ন্ত্রণ করতে সক্ষম হবেন।
ওপেন এআই বলেছে, তাদের সন্তান যখন কষ্টের লক্ষণ প্রকাশ করবে, তখন অভিভাবকরা এ বিষয়ে অবগত হবেন। তারা অভিভাবক এবং কিশোর-কিশোরীদের মধ্যে আস্থা সমর্থন করার জন্য বৈশিষ্ট্যটি বাস্তবায়নে বিশেষজ্ঞদের মতামত চাইবে।
গত সপ্তাহে ব্যবহারকারীদের নিরাপত্তা বৃদ্ধির লক্ষ্যে একাধিক পদক্ষেপ ঘোষণা করে ওপেন এআই জানিয়েছে, পদক্ষেপগুলো আগামী মাসের মধ্যে কার্যকর হবে।
এআই জানিয়েছে, “চ্যাটজিপিটি কে যতটা সম্ভব সহায়ক করে তোলার লক্ষে আমরা চেষ্টা চালিয়ে যাব। আমরা আগামী ১২০ দিনে আমাদের অগ্রগতি ভাগ করে নেওয়ার জন্য প্রস্তুত।”
সম্প্রতি ক্যালিফোর্নিয়ার এক দম্পতি তাদের ১৬ বছর বয়সী ছেলের আত্মহত্যার জন্য চ্যাটজিপিটির বিরুদ্ধে মামলা দায়ের করার এক সপ্তাহ পরে ওপেন এআই এই ঘোষণা করে।
ওই দম্পতি তাদের মামলায় অভিযোগ করেছেন, চ্যাটজিপিটি তাদের ছেলে অ্যাডামের সবচেয়ে ক্ষতিকারক এবং আত্ম-ধ্বংসাত্মক চিন্তাভাবনাকে বৈধ করেছে।
এই কিশোরের মৃত্যুতে শোক প্রকাশ করে ওপেন এআই জানায়, পিতামাতার নিয়ন্ত্রণ সম্পর্কিত ঘোষণায় মামলাটি স্পষ্টভাবে উল্লেখ করেনি।
মামলায় রাইন পরিবারের প্রতিনিধিত্বকারী আইনজীবী জে এডেলসন ওপেনএআই-এর পরিকল্পিত পরিবর্তনগুলোকে বিতর্কের পরিবর্তন করার প্রচেষ্টা হিসেবে উড়িয়ে দিয়েছেন।
তিনি বলেন, “আমরা কৌশলগতভাবে বুঝতে পারি, কেন তারা এটি চায়। ওপেনএআই আসলে অ্যাডামের সাথে কী ঘটেছিল, তার প্রতিক্রিয়া জানাতে পারে না। কারণ অ্যাডামের মামলা চ্যাটজিপিটি সহায়ক হতে ব্যর্থ হওয়ার বিষয়ে নয়- এটি এমন একটি বিষয় সম্পর্কে যা সক্রিয়ভাবে একজন কিশোরকে আত্মহত্যার দিকে পরিচালিত করেছিল।”
গত মাসে সাইকিয়াট্রিক সার্ভিসেসে প্রকাশিত এক গবেষণায় গবেষকরা দেখেছেন, চ্যাটজিপিটি, গুগলের জেমিনি এবং অ্যানথ্রপিকের ক্লড আত্মহত্যা সম্পর্কে উচ্চ-ঝুঁকিপূর্ণ প্রশ্নের উত্তর দেয়ার সময় ক্লিনিকাল সেরা অনুশীলন অনুসরণ করেছেন। কিন্তু ঝুঁকির মধ্যবর্তী স্তর সংক্রান্ত প্রশ্নের উত্তর দেওয়ার সময় অসঙ্গতিপূর্ণ ছিল।
লেখকরা বলেছেন, “এই ফলাফলগুলো মানসিক স্বাস্থ্য তথ্য বিতরণের জন্য বিশেষ করে আত্মহত্যার ধারণার সাথে জড়িত উচ্চ-ঝুঁকির পরিস্থিতিতে, নিরাপদে এবং কার্যকরভাবে এলএলএম ব্যবহার করা যেতে পারে। তবে তা নিশ্চিত করার জন্য আরও পরিমার্জনের প্রয়োজনীয়তা রয়েছে।”
