Character AI একটি স্টার্টআপ, যা ব্যবহারকারীদের এআই চরিত্র তৈরি ও তাদের সঙ্গে কথা বলার সুযোগ দেয়। তবে সাম্প্রতিক সময়ে এই প্ল্যাটফর্মের বিরুদ্ধে অভিযোগ উঠেছে যে এটি কম বয়সী ব্যবহারকারীদের জন্য যথেষ্ট নিরাপদ নয়। এর ফলে সংস্থার বিরুদ্ধে কিছু মামলা হয়েছে। এসব অভিযোগের পর, কোম্পানিটি ঘোষণা করেছে যে তারা কিশোরদের নিরাপত্তা বাড়াতে নতুন কিছু অভিভাবকীয় নজরদারি টুল চালু করছে।এই নতুন ব্যবস্থায় অভিভাবকরা প্রতি সপ্তাহে একটি ইমেইলের মাধ্যমে তাদের সন্তানের অ্যাপে সক্রিয়তার সারসংক্ষেপ পাবেন। ইমেইলে দেখানো হবে যে কিশোর ব্যবহারকারী গড়ে কত সময় অ্যাপে কাটিয়েছে, কোন এআই চরিত্রের সঙ্গে কতক্ষণ কথা বলেছে এবং সপ্তাহজুড়ে কোন চরিত্রগুলোর সঙ্গে সবচেয়ে বেশি যোগাযোগ করেছে। তবে, অভিভাবকরা সরাসরি চ্যাটের মেসেজগুলো দেখতে পারবেন না, শুধুমাত্র তাদের সন্তানের ব্যবহার সম্পর্কিত সাধারণ তথ্য পাবেন।এর আগেও ক্যারেক্টার এআই কিছু নিরাপত্তামূলক ব্যবস্থা নিয়েছিল। ২০২৩ সালে তারা ১৮ বছরের নিচের ব্যবহারকারীদের জন্য আলাদা নিরাপদ চ্যাট মডেল তৈরি করেছিল। এই মডেলে ব্যবহারকারীদের নির্দিষ্ট সময় পর একটি সতর্কবার্তা দেখানো হতো এবং চ্যাটিং সংক্রান্ত গুরুত্বপূর্ণ তথ্য জানিয়ে দেওয়া হতো। এছাড়া, তারা কিশোরদের জন্য সংবেদনশীল কনটেন্ট ব্লক করার জন্য নতুন ব্যবস্থা চালু করেছিল। চলতি বছর, কোম্পানিটি একটি মামলার বিরুদ্ধে আবেদন করেছে, যেখানে অভিযোগ করা হয়েছিল যে তাদের প্ল্যাটফর্ম একটি কিশোরের আত্মহত্যার ঘটনায় ভূমিকা রেখেছে।
