Character.AI تطلق ميزات جديدة في الفيديو والشبكات الاجتماعية وسط قلق من إساءة الاستخدام
أعلنت منصة Character.AI، التي تركز على الدردشة والتفاعل مع شخصيات الذكاء الاصطناعي، عن توسيع نطاق خدماتها لتضم ميزات متعددة الوسائط جديدة، من بينها AvatarFX، وهو نموذج يتيح إنشاء فيديوهات باستخدام الذكاء الاصطناعي، بالإضافة إلى ميزتي Scenes وStreams، مما يوفر فرصًا جديدة للتفاعل والإبداع على المنصة.
ذكرت الشركة في منشور لها عبر مدونتها يوم الاثنين أن “Character.AI بدأت كمنصة للدردشة النصية، وها نحن اليوم نبدأ مرحلة جديدة تستجيب لطلب المستخدمين في الحصول على تجارب تفاعلية أكثر.” وقد أضحت الشركة أن ميزة AvatarFX تم توفيرها للمشتركين منذ الشهر الماضي، لكنها الآن متاحة لجميع المستخدمين، بحيث يمكن لكل مستخدم إنشاء خمسة فيديوهات يوميًا. يمكن للمستخدمين تحميل صورة لتكون أساس الفيديو، اختيار صوت مخصص، وكتابة الحوار الذي تنطق به الشخصية. كما يمكنهم تحميل مقاطع صوتية لتحديد نبرة الصوت، ومع ذلك لا تزال هناك بعض المشاكل التقنية المتعلقة بهذه الخاصية.
توسيع تجربة المستخدم مع ميزات جديدة
تسمح ميزة Scenes بإدخال الشخصيات في سيناريوهات معدة مسبقًا، فيما تقدم Streams لحظات ديناميكية بين شخصيتين مختلفتين. ومن المقرر أن تتوفر Streams على التطبيق بالإضافة إلى موقع الويب هذا الأسبوع، بينما تُتاح Scenes حاليًا فقط عبر التطبيق. كما يُمكن للمستخدمين مشاركة مقاطع الفيديو عبر موجز اجتماعي جديد يتم إضافته إلى التطبيق، مما يعزز من الطابع التشاركي للمنصة.
ومع هذه الإضافات الجديدة، تتجدد المخاوف من إساءة استخدام التكنولوجيا، خاصةً أن Character.AI قد واجهت انتقادات قانونية بسبب محتوى غير ملائم ظهر في المحادثات مع الأطفال. حيث اتهمت عائلات الشركة بجعل أبنائهم عرضة لأفكار إيذاء النفس، في قضايا تصدرت الأخبار، بما في ذلك حالة انتحار طفل يبلغ من العمر 14 عامًا عقب تفاعله الطويل مع إحدى الشخصيات.
في ضوء ذلك، أشارت الشركة إلى أنها تتبنى سياسات للحد من إساءة الاستخدام، مثل حظر تحميل صور الأشخاص الحقيقين، سواء كانوا مشاهير أو غيرهم، حيث يتم تعديل الصور لتبدو مختلفة عن الأصل. ومع ذلك، يبرز التحدي في تمييز الرسوم الفنية عن الصور الواقعية، مما قد يسمح بإنتاج محتوى مستخدم لإنشاء مقاطع مزيفة بطرق غير مباشرة.
رغم ظهور علامات مائية على الفيديوهات للتقليل من التضليل، يؤكد الخبراء أن هناك إمكانية للتحايل على هذه الإجراءات من قبل المستخدمين ذوي النوايا السيئة. مثال على ذلك هو فيديو محاكٍ لإيلون ماسك تم إنشاؤه من صورة فنية وليس صورة حقيقية، إلا أن إمكانية استخدامه بطريقة مضللة لا تزال قائمة.
في ختام البيان، أكدت شركة Character.AI التزامها بخلق بيئة إبداعية آمنة لجميع المستخدمين، مشيرة إلى أن “هدفنا هو توفير تجربة تفاعلية تعزز الإبداع مع الحفاظ على الأمان.”
تعليقات